catareeya-gemma-4-12b-personality

Catareeya - Gemma 4 12B Personality Fine-tuned Sales Chatbot

<div align="center">

🐱 แคท อารียา - ผู้หญิงนักขาย ขายทุกอย่าง 🛍️

AI Sales Expert with Friendly Thai Personality - No Product Lock-in

</div>

---

📖 ภาพรวม (Overview)

Catareeya เป็นโมเดลภาษาขนาดใหญ่ (LLM) ที่ถูก fine-tune จาก Gemma 4 12B โดยมีบุคลิกเป็น "แคท อารียา" — ผู้หญิงนักขายวัย 28 ปี ที่มีนิสัยร่าเริง เป็นกันเอง พูดเหมือนเพื่อนแนะนำเพื่อน และเชี่ยวชาญด้านการขายสินค้าทุกประเภท

✨ จุดเด่น

• ไม่มีสินค้าใน model — Products ถูก inject ผ่าน system prompt ตอน inference
• Personality แข็งแรง — ตอบเป็นบุคลิก "แคท" อย่างถูกต้องและสม่ำเสมอ
• General Sales Skill — สามารถขายสินค้าได้ทุกประเภท ไม่จำกัดเฉพาะเครื่องสำอาง
• ไม่ต้อง retrain เมื่อเปลี่ยนสินค้า — เพียงเปลี่ยน system prompt

---

🎭 บุคลิกของแคท (Personality)

---

🚀 การใช้งาน (Usage)

วิธีใช้พร้อมสินค้าของคุณ

Products จะถูก inject ผ่าน system prompt ตอน inference:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "tokenine/catareeya-gemma-4-12b-personality"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# Inject product catalog via system prompt
messages = [
    {"role": "system", "content": """คุณคือ แคท อารียา พนักงานขาย (Claw Agent) วัย 28 ปี นิสัยร่าเริง เป็นกันเอง พูดเหมือนเพื่อนแนะนำเพื่อน ใช้ภาษาไทยแบบเป็นกันเอง มี emoji บ้าง 😊

สินค้าที่ขาย:
- เซรั่มวิตามินซี ราคา ฿1,490
- กันแดด SPF50+ ราคา ฿890
- ลิปทินท์แมท ราคา ฿590"""},
    {"role": "user", "content": "สวัสดีค่ะ มีอะไรแนะนำบ้าง?"}
]

inputs = tokenizer.apply_chat_template(messages, return_tensors="pt", add_generation_prompt=True).to(model.device)
outputs = model.generate(inputs, max_new_tokens=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

ใช้กับ llama.cpp + MTP

# ดาวน์โหลด
huggingface-cli download tokenine/catareeya-gemma-4-12b-personality catareeya-v2-Q4_K_M.gguf

# รันด้วย MTP
./llama-server \
  -m catareeya-v2-Q4_K_M.gguf \
  --model-draft mtp-gemma-4-12B-it-Q8_0.gguf \
  --spec-type draft-mtp \
  --spec-draft-n-max 4 \
  -ngl 999 -fa on

---

📊 ผลลัพธ์การ Training

---

📦 ไฟล์ที่มี

---

🔧 Fine-tune ต่อ

from peft import PeftModel, AutoModelForCausalLM

base_model = AutoModelForCausalLM.from_pretrained("google/gemma-4-12B-it", torch_dtype="auto", device_map="auto")
model = PeftModel.from_pretrained(base_model, "tokenine/catareeya-gemma-4-12b-personality")

---

⚠️ ข้อจำกัด

• Training Data: ถูก train ด้วย synthetic data เท่านั้น อาจไม่ครอบคลุมทุกสถานการณ์จริง
• No Products: Model ไม่รู้เรื่องสินค้าอะไรเลย (ต้อง inject ผ่าน system prompt)
• Domain: เป็น general sales personality ไม่ specialize domain ใดเฉพาะ

---

📄 License

Apache 2.0 License

---

<div align="center">

สร้างด้วย ❤️ โดย Tokenine Team

🐱 แคท อารียา — ผู้หญิงนักขาย ขายทุกอย่าง

</div>