gemma-3-1b-meb-soru-lora

gemma-3-1b-meb-soru-lora

unsloth/gemma-3-1b-it temel alinarak, MEB mufredatina uygun Turkce egitim sorulari ureten bir LoRA adaptoru. Unsloth ile fine-tune edilmistir.

Amac

Kullaniciya sinif, ders ve konu verildiginde o konuya uygun coktan secmeli / acik uclu / beceri temelli sorular uretmek. Ornek istem:

"8. sinif Turkce - Fiilimsiler konusunda orta seviyede coktan secmeli soru uret."

Model, cevabi yapilandirilmis (JSON) bir soru formatinda uretir: soru metni, secenekler, dogru cevap ve cevap aciklamasi.

Egitim detaylari

• Temel model: unsloth/gemma-3-1b-it
• Framework: Unsloth + TRL (SFT)
• Yontem: LoRA (r=16, alpha=16), 4-bit (QLoRA)
• Hedef moduller: q/k/v/o_proj, gate/up/down_proj
• Epoch: 2
• Veri: MEB soru arsivinden turetilmis, referans sohbet formatinda ~20.000 ornek (matematik haric)

Kullanim

from unsloth import FastModel

model, tokenizer = FastModel.from_pretrained("nursimakgul/gemma-3-1b-meb-soru-lora", load_in_4bit=True)

messages = [{"role": "user", "content": "5. sinif Fen Bilimleri - Gunes, Dunya ve Ay konusunda orta seviyede coktan secmeli soru uret."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(input_ids=inputs, max_new_tokens=256, temperature=0.8, do_sample=True)
print(tokenizer.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

Sinirlamalar

Uretilen sorularin dogrulugu her zaman garanti degildir; egitim/degerlendirme amaclidir, dogrudan sinavda kullanim icin ek kontrol gerekir.

Benchmark Sonuçları

Model, iki Türkçe benchmark'ta değerlendirilip base model ve diğer küçük modellerle karşılaştırılmıştır. Skorlar başarı yüzdesidir.

• MMLU: alibayram/yapay_zeka_turkce_mmlu_model_cevaplari (500 soru)
• Belebele: facebook/belebele — tur_Latn (500 soru)