Downloads · 30 days
35
35% of all-time downloads
NoriAI/NoriFlash
NoriFlash is a text generation model from NoriAI. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
Downloads · 30 days
35
35% of all-time downloads
All-time downloads
101
Public
Repo size
2.6 GB
Likes
1
Public
Click a slice to open those files.
.gguf2.6 GB · 100%
From the Hugging Face model README
Быстрая, лёгкая и отзывчивая языковая модель, дообученная для естественного диалога
</div>Nori 1.5B — компактная разговорная модель, дообученная (fine-tuned) с использованием Unsloth поверх открытой архитектуры Qwen2.5-1.5B-Instruct от Alibaba Cloud.
| Файл | Квантование | Размер | Рекомендуется для |
|---|---|---|---|
qwen2.5-1.5b-instruct.Q4_K_M.gguf | Q4_K_M | ~1.0 GB | CPU / слабое железо |
qwen2.5-1.5b-instruct.Q8_0.gguf | Q8_0 | ~1.6 GB | Баланс качества и скорости |
./llama-cli --model qwen2.5-1.5b-instruct.Q4_K_M.gguf -p "Привет, как тебя зовут?"
from llama_cpp import Llama
llm = Llama(model_path="qwen2.5-1.5b-instruct.Q4_K_M.gguf", n_ctx=2048)
output = llm("Привет! Расскажи о себе.", max_tokens=128)
print(output["choices"][0]["text"])
ollama create nori -f Modelfile
ollama run nori
Apache 2.0 — соответствует лицензии базовой модели Qwen2.5.