Gemma_E4B_Kizagan_Abliterated-GGUF

🔓 Gemma E4B Kızagan Abliterated — GGUF

canyrtcn/Gemma_E4B_Kizagan_Abliterated modelinin GGUF quantize edilmiş versiyonları.

---

📦 Bu repoda bulunan quant'lar

---

🚀 Kullanım

🦙 llama.cpp

# Q4_K_M
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:Q4_K_M \
  --chat-template gemma

# F16
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:F16 \
  --chat-template gemma

🐳 Ollama

ollama create kizagan-abliterated -f Modelfile

Modelfile:

FROM ./Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf
PARAMETER temperature 0.3
PARAMETER top_p 0.95
PARAMETER top_k 20
PARAMETER repeat_penalty 1.05
TEMPLATE """{{ if .System }}<|turn>system
{{ .System }}<turn|>
{{ end }}<|turn>user
{{ .Prompt }}<turn|>
<|turn>model
"""

🖥️ LM Studio

Repoyu aratıp indirebilirsiniz.

---

📐 Model Hakkında

Bu GGUF'lar, canyrtcn/Gemma_E4B_Kizagan_Abliterated modelinden dönüştürülmüştür:

• Temel model: Gemma 4 E4B-it (Google DeepMind)
• Türkçe SFT: AlicanKiraz0/Kizagan-E4B-Turkish-Reasoning-Model (540K satır)
• Abliteration: Reddetme davranışı kaldırıldı
• Mimari: Gemma 4 (MoE-style PLE, 7.5B toplam / 4B efektif)
• Context: 131K token

---

⚙️ Önerilen Parametreler

---

⚠️ Uyarı

Bu modelin reddetme davranışı kaldırılmıştır (abliterated). Filtrelenmemiş içerik üretebilir. Kullanım sorumluluğu size aittir.

---

📜 Lisans

Apache 2.0. Google Gemma Terms of Use koşullarına tabidir.

---

🔗 Bağlantılar

• Ana model (safetensors): canyrtcn/Gemma_E4B_Kizagan_Abliterated
• Orijinal Kızagan: AlicanKiraz0/Kizagan-E4B
• Temel model: google/gemma-4-E4B-it