Downloads · 30 days
1.9K
14% of all-time downloads
ai-sage/GigaChat-20B-A3B-instruct-v1.5-GGUF
GigaChat-20B-A3B-instruct-v1.5-GGUF is a machine learning model from ai-sage. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as mit.
Диалоговая модель из семейства моделей GigaChat, основная на ai-sage/GigaChat-20B-A3B-instruct-v1.5. Поддерживает контекст в 131 тысячу токенов.
Downloads · 30 days
1.9K
14% of all-time downloads
All-time downloads
13.5K
Public
Repo size
133 GB
Likes
14
Public
Click a slice to open those files.
.gguf133 GB · 100%
From the Hugging Face model README
Диалоговая модель из семейства моделей GigaChat, основная на ai-sage/GigaChat-20B-A3B-instruct-v1.5. Поддерживает контекст в 131 тысячу токенов.
Больше подробностей в хабр статье и в карточке оригинальной instruct модели.
Добавление поддержки модели в:
Модель рекомендуется запускать в режиме чата для автоматической поддержки chat template:
./bin/llama-simple-chat -m /path/to/downloaded/GigaChat-20B-A3B-instruct_v1.5_bf16.gguf