Sedna-26B-TR-GGUF

Sedna-26B-TR

Türkçe için ince ayarlanmış Gemma 4 26B-A4B — tek dosyalık GGUF, doğrudan çalıştırılabilir.

Sedna-26B-TR, Google'ın Gemma 4 26B-A4B modelinin (128 uzmanlı MoE, yaklaşık 4 milyar aktif parametre) Türkçe metin üretimi ve anlama için özelleştirilmiş sürümüdür. Metin ve görsel girdiyi birlikte işler; llama.cpp ve türevleriyle ek dönüştürme adımı gerektirmeden kullanılır.

Dosyalar

Türkçe başarım

Model, altı standart Türkçe değerlendirme görevinde (Belebele, XCOPA, XNLI, XQuAD, TurkishMMLU, EXAMS) ölçülmüştür. Ölçüm koşulları, karşılaştırmalı sonuçlar ve aynı harness ile değerlendirilmiş diğer açık modeller için: Türkçe LLM Liderlik Tablosu

Puanlar 0–100 aralığındadır; sabit tohum altında, sıfır-atışlı değerlendirme. Yukarıdaki değerler bu depodaki Q4_0 dosyasıyla ölçülmüştür.

Kullanım

llama.cpp (metin)

llama-server -m Sedna-26B-TR-Q4_0.gguf -c 8192

llama.cpp (metin + görsel)

llama-server -m Sedna-26B-TR-Q4_0.gguf \
  --mmproj Sedna-26B-TR-mmproj-BF16.gguf -c 8192

İstek gönderme

Sunucu OpenAI uyumlu bir API sunar:

curl http://127.0.0.1:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages":[{"role":"user","content":"Merhaba, kendini tanıt."}]}'

Dosyayı indirme

hf download afkfatih/Sedna-26B-TR-GGUF Sedna-26B-TR-Q4_0.gguf --local-dir .

Notlar

• Gemma 4 varsayılan olarak <think> blokları içinde muhakeme üretir. Kapatmak için istemci tarafında chat_template_kwargs: {"enable_thinking": false} gönderin; llama.cpp sunucusunda --reasoning-budget 0 da aynı işi görür.
• Q4_0 nicemleme, geniş donanım uyumluluğu ve yüksek üretim hızı için seçilmiştir. Tam duyarlıklı bir sürüm daha yüksek puan alabilir.
• Model kısa yanıtlar üretmeye eğilimlidir; uzun çıktı gerektiren kullanımlarda istem içinde uzunluk beklentisini açıkça belirtin.

Lisans

Bu model Gemma 4'ten türetilmiştir ve Google'ın Gemma Kullanım Koşulları'na tabidir. Kullanmadan önce kullanım politikasını inceleyin.