MiniCPM5-1B-enti-GGUF

MiniCPM5-1B-enti-GGUF

Маленькая модель-резолвер сущностей (entity / intent resolver) для Home Assistant. Превращает пользовательскую фразу на русском или английском в домен + имя сущности (или интент), которые затем маппятся в вызов HA-тула на стороне клиента.

Обучена на RockMan256/ha-ru-en-intents.

Как использовать (формат запроса и ответа)

Вход (системный промпт + запрос пользователя):

<системный промпт>
<user> включи свет в спальне

Выход (модель отвечает JSON-объектом с интентом/доменом):

{ "name": "entityResolver", "arguments": { "domain": "light", "name": "спальня" } }

или для прямых команд:

{ "name": "turn_on", "arguments": { "area": "Спальня" } }

Важно: отключение reasoning

Модель упрямо включает режим размышления (think) через свой chat-template, даже если сервер запущен с --reasoning off. Чтобы выключить размышления, добавь в начало системного промпта две пустые строки:

\n\n<дальше твой системный промпт>

Без этого модель выдаёт лишний текст вместо чистого JSON (146 токенов вместо 65).

Рекомендации

• Не используй как чат-бота — это классификатор, а не генератор ответов.
• Модель выдаёт domain/intent, а не готовый entity_id — нужен пост-процессинг (резолв entity через HA API по domain + fuzzy-поиск по name).
• Примеры интентов: light, gate, gate_open, turn_on, set_speed.
• Размер 1B — быстрая, но иногда нестабильна (путает вытяжку с воротами).