Downloads · 30 days
60
9% of all-time downloads
Rob1234567/qwen3.5-4b-ariadna-grpo-v1-gguf
qwen3.5-4b-ariadna-grpo-v1-gguf is a text generation model from Rob1234567. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
Квантованные GGUF-модели для доменного эксперта по ML/AI-терминологии.
Downloads · 30 days
60
9% of all-time downloads
All-time downloads
679
Public
Repo size
2.7 GB
Likes
1
Public
Click a slice to open those files.
.gguf2.7 GB · 100%
From the Hugging Face model README
Квантованные GGUF-модели для доменного эксперта по ML/AI-терминологии.
🔗 Исходная safetensors-модель: qwen3.5-4b-ariadna-grpo-v1 — GRPO v10, KAT 3-level + GRM reward, полный пайплайн CPT→SFT→GRPO.
| Файл | Версия | Описание |
|---|---|---|
qwen35-4b-ariadna-grpo-v10.Q4_K_M.gguf | v10 | GRPO с KAT 3-level + GRM-наградой |
model-Q4_K_M.gguf | v1 | SFT-базовый уровень (без GRPO) |
| Метрика | v1 (SFT) | v10 (GRPO) |
|---|---|---|
| Осмысленных ответов | 40/50 (80%) | 43/50 (86%) |
| Средняя длина ответа | 98 слов | 106 слов |
| Среднее время ответа | 2781 мс | 2584 мс |
📄 gguf_v1_vs_v10_comparison.pdf
| Метрика | v1 (SFT) | v10 (GRPO) |
|---|---|---|
| Осмысленных ответов | 36/50 (72%) | 34/50 (68%) |
| Средняя длина ответа | 74 слов | 73 слов |
| Среднее время ответа | 2712 мс | 2876 мс |
📄 gguf_v1_vs_v10_hard_comparison.pdf
Механизм катастрофического забывания в GRPO: group-relative advantage даёт частотным паттернам систематически более высокие преимущества в группе, вытесняя редкие знания из policy. Это известный и подтверждённый феномен GRPO-посттренинга (верифицировано через доменного субагента, 2026-07-17).
Роль GRM: GRM (Generative Reward Model) — это модель награды, а не механизм памяти. Она обеспечивает качественный сигнал для policy optimization, но не предотвращает catastrophic forgetting сама по себе. Без GRM ручные правила дают нестабильный сигнал (−10 п.п. в ранних версиях). С GRM награда стабильна, но forgetting редких терминов сохраняется.
Открытая проблема: конфликт между оптимизацией популярных паттернов и сохранением редких знаний не имеет полного решения в GRPO и RLHF. Текущие методы (KL-регуляризация, curriculum learning, knowledge distillation) смягчают, но не устраняют проблему.
Рекомендация: v10 для оперативных запросов, v1 для глубоких доменных вопросов по редким концептам.
# llama-server
llama-server -m qwen35-4b-ariadna-grpo-v10.Q4_K_M.gguf -ngl 99 -c 4096 --jinja --host 127.0.0.1 --port 8080
# llama-cli
llama-cli -m qwen35-4b-ariadna-grpo-v10.Q4_K_M.gguf -ngl 99 -p "Объясни: что такое Governed Memory в контексте AI-агентов?"
📄 Отчёт: архитектура гибридного опроса доменной модели
Документ описывает боевую интеграцию Ariadna в работу агента Claude Code (универсальная модель DeepSeek Flash):
domain-expert, который опрашивает Ariadna v10/v1 по протоколу (атомарные вопросы → выбор модели → кросс-проверка).Мета-наблюдение: часть заземления в отчёте получена через саму Ariadna — рефлексивная валидация архитектуры.
Коллекция Ariadna: qwen35-4b-ariadna-ml-ai — два основных репозитория Ariadna в единой коллекции
Rob1234567/qwen3.5-4b-ariadna-grpo-v1 — исходная safetensors-модель (GRPO v10, полный пайплайн)
Rob1234567/qwen3.5-4b-ariadna-sft-v1 — SFT-базовый уровень
Rob1234567/qwen3.5-4b-ariadna-cpt-v1 — CPT (продолженное предобучение)
GitHub: romannekrasovaillm/qwen35-4b-ariadna-grpo — код обучения и бенчмарков