Downloads · 30 days
169
100% of all-time downloads
Fantominsight/Yapper-M4-Flash-0256-GGUF
Yapper-M4-Flash-0256-GGUF is a text generation model from Fantominsight. Use it when you need the model to write or continue text. The card lists the license as gpl-3.0.
Модель на архитектуре Mistral3. 3,62 миллиарда параметров, упакованных в Q80. Она создана для быстрых и базовых задач.Контекст до 16К токенов. Модель имеет базовую систему цензурирования от запросов на создание опасны…
Downloads · 30 days
169
100% of all-time downloads
All-time downloads
169
Public
Repo size
3.7 GB
Likes
1
Public
Click a slice to open those files.
.gguf3.7 GB · 100%
From the Hugging Face model README
Модель на архитектуре Mistral3. 3,62 миллиарда параметров, упакованных в Q8_0. Она создана для быстрых и базовых задач.Контекст до 16К токенов. Модель имеет базовую систему цензурирования от запросов на создание опасных тел для человека. Например - бомба. В ролеплее модель может быть агрессивной и выдумывать информацию. И может ошибаться. При пропускной способности памяти в 29ГБ/сек модель работает по 5-8 токенов в секунду на выход и 18-23 на вход. Рассуждение не предусмотрено. Модель может генерировать текстовые и отдалённые сцены, содержащие неприемлимый контент. Перебарщивать модель не сможет и не будет. Старайтесь исползовать с умом. Модель отлично справляется с:
Не хватает мощности процессора и батарея будет греться как печка.