waiter-1B

Waiter-1B

Adisyonist restoran/adisyon (POS) yazılımı için chat agent + tool-router modeli. google/gemma-3-1b-it temel modelinin, adisyonist/adisyonist-chat veri seti (tr + en alt kümesi) üzerinde QLoRA ile fine-tune edilmiş halidir.

Çıktı formatı

Model her kullanıcı mesajına tek bir JSON nesnesiyle cevap verir:

{"agents": ["prepareReservationCommand", "executeReservationAction"], "reply": "Rezervasyon işlemi hazırlandı..."}

• agents: uygulamanın sırayla çağırması gereken backend fonksiyonları (chit-chat / refusal durumlarında boş liste).
• reply: kullanıcıya gösterilecek metin. {totalSales} gibi placeholder'lar uygulama tarafından runtime'da doldurulur.

Kullanım

import json
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "adisyonist/waiter-1B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")

messages = [{"role": "user", "content": "Masa 5 için 2 adet lahmacun ve 1 ayran ekler misin?"}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
output = model.generate(**inputs, max_new_tokens=200, do_sample=False)
raw = tokenizer.decode(output[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True)
result = json.loads(raw)
print(result["agents"], result["reply"])

Eğitim detayları

• Yöntem: QLoRA (4-bit NF4, LoRA r=32, alpha=64, tüm attention + MLP projeksiyonları)
• Eğitim: TRL SFTTrainer, NEFTune (alpha=5), cosine LR, early stopping (eval_loss)
• Temel model lisansı: Gemma Terms of Use

Sınırlamalar

Model, Adisyonist POS senaryoları (sipariş alma, masa/hesap/rezervasyon/stok/personel işlemleri, satış özetleri) için özelleştirilmiştir; genel amaçlı asistan olarak kullanımı önerilmez. Çıktı her zaman JSON'dur — düz metin cevap beklemeyin.