Downloads · 30 days
0
daanil-ivanov/qwen-0.5b-monte-carlo-diploma-quant
qwen-0.5b-monte-carlo-diploma-quant is a machine learning model from daanil-ivanov. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
Это квантизованная версия модели Qwen2.5-0.5B-Instruct в формате GGUF, адаптированная под задачи Монте-Карло моделирования (моя дипломная работа).
Downloads · 30 days
0
Access
Public
Updated Sep 7, 2026
Repo size
—
Likes
0
Public
Click a slice to open those files.
.md1.6 KB · 51%
From the Hugging Face model README
Это квантизованная версия модели Qwen2.5-0.5B-Instruct в формате GGUF, адаптированная под задачи Монте-Карло моделирования (моя дипломная работа).
Q4_K_M (без калибровки)IQ4_XS с imatrix, собранной на тексте дипломной работы (раздел про Фурье-Монте-Карло моделирование)| Модель | Perplexity (↓) |
|---|---|
| FP16 | 12.4235 +/- 0.77677 |
| Q4_K_M | 12.6828 +/- 0.79284 |
| IQ4_XS (diploma) | 13.1946 +/- 0.83183 |
Вывод: IQ4_XS с калибровкой под предметную область даёт сопоставимое качество, как и Q4_K_M. Это можно объяснить мелкостью задачи и её демонстрационным характером. При этом, очевидно, неквантованная модель показала результаты чуть лучше.
./llama-cli -m qwen-0.5b-IQ4_XS_diploma.gguf -p "Объясни метод Монте-Карло" -n 128