Downloads · 30 days
292
22% of all-time downloads
HattoriHanzo1/Cerberus-4B-GGUF
Cerberus-4B-GGUF is a text generation model from HattoriHanzo1. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
<p align="center" <img src="https://cdn-uploads.huggingface.co/production/uploads/68d1c6c3ea1c2d4e3c3df3f6/mMATq6mOBrzP5czbr5lSr.png" alt="Cerberus-4B" width="800"/ </p <p align="center" <em<strong<font size="8" color…
Downloads · 30 days
292
22% of all-time downloads
All-time downloads
1.3K
Public
Repo size
30.6 GB
Likes
0
Public
Click a slice to open those files.
.gguf30.6 GB · 100%
From the Hugging Face model README
Cerber — strażnik prawdy Cerberus-4B to model językowy z natywnym wsparciem Chain-of-Thought, wykuty w treningu na starannie wyselekcjonowanych danych. Jak jego mityczny imiennik — nie przepuści byle czego. Każda odpowiedź poprzedzona jest rozumowaniem.
Nikt nie rodzi się strażnikiem. Cerberus przeszedł przez wszystkie poziomy :
| Faza | LR | Scheduler | Kroki | Cel |
|---|---|---|---|---|
| I | 2e-4 | linear | 1500 | Wstępne opanowanie formatu CoT |
| II | 3e-5 | constant | 1500 | Konsolidacja wiedzy i rozumowania |
| III | 1e-5 | cosine | 1500 | Szlif — precyzja i głębia |
| IV | humanistyczny | constant | 1500 | Dusza — język, finezja, polot |
Baza: Qwen3-4B z natywnym tokenem <think> — architektura stworzona do rozumowania.
<think><|im_start|>user
Twoje pytanie tutaj<|im_end|>
<|im_start|>assistant
<think>
...rozumowanie modelu...
</think>
Odpowiedź
| Plik | Rozmiar | Zastosowanie |
|---|---|---|
| Cerberus-4b.F16.gguf | ~8.0 GB | Referencyjna, pełna precyzja |
| Cerberus-4b.Q8_0.gguf | ~4.3 GB | Wysoka jakość |
| Cerberus-4b.Q6_K.gguf | ~3.3 GB | Zalecana — jakość vs rozmiar |
| Cerberus-4b.Q5_K_M.gguf | ~2.9 GB | Dobry balans |
| Cerberus-4b.Q5_K_S.gguf | ~2.7 GB | Szybsza wersja Q5 |
| Cerberus-4b.Q4_K_M.gguf | ~2.5 GB | Codzienny użytek |
| Cerberus-4b.Q4_K_S.gguf | ~2.4 GB | Lekka wersja Q4 |
| Cerberus-4b.IQ4_XS.gguf | ~2.2 GB | Minimalistyczna |
| Cerberus-4b.Q3_K_M.gguf | ~1.9 GB | Urządzenia mobilne |
llama-cli \
-m Cerberus-4b.Q6_K.gguf \
-p "<|im_start|>user\nCzym jest absurd według Camusa?<|im_end|>\n<|im_start|>assistant\n" \
-n 512 \
--temp 0.7 \
--repeat-penalty 1.1
| Kwantyzacja | Min. VRAM / RAM |
|---|---|
| Q4_K_M | 4 GB |
| Q6_K | 6 GB |
| Q8_0 | 8 GB |
| F16 | 16 GB |