vihallu-qwen3-4b-lora

ViHallu — Qwen3-4B-Instruct-2507 + LoRA (Hallucination Detection)

Fine-tune LoRA (16-bit, generative) của Qwen/Qwen3-4B-Instruct-2507 để phát hiện hallucination trong câu trả lời tiếng Việt của LLM, trên bộ dữ liệu ViHallu. Mô hình nhận (context, prompt, response) và sinh ra đúng một nhãn:

• NO (0) — trả lời đúng, nhất quán với ngữ cảnh.
• INTRINSIC (1) — trả lời mâu thuẫn/bóp méo thông tin trong ngữ cảnh.
• EXTRINSIC (2) — trả lời bổ sung thông tin không có trong ngữ cảnh.

DS319 - Lab 6 · Lương Đắc Nguyên (23521041).

Kết quả (test = 2.000 mẫu)

Confusion matrix

Tham số huấn luyện

(Xem thêm params.json, metrics.json trong repo.)

Cách dùng

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "Qwen/Qwen3-4B-Instruct-2507"
tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, device_map="cuda", dtype="bfloat16")
model = PeftModel.from_pretrained(model, "Laplaces-Red-Devils/vihallu-qwen3-4b-lora")

SYSTEM = ("Bạn là hệ thống phát hiện hallucination trong câu trả lời tiếng Việt của mô hình "
          "ngôn ngữ lớn. Dựa vào Ngữ cảnh, hãy phân loại Trả lời vào ĐÚNG MỘT nhãn:\n"
          "- NO: Trả lời đúng và nhất quán với thông tin trong Ngữ cảnh.\n"
          "- INTRINSIC: Trả lời mâu thuẫn hoặc bóp méo thông tin có trong Ngữ cảnh.\n"
          "- EXTRINSIC: Trả lời bổ sung thông tin KHÔNG xuất hiện trong Ngữ cảnh.\n"
          "Chỉ trả về DUY NHẤT một nhãn: NO, INTRINSIC, hoặc EXTRINSIC.")

def classify(context, prompt, response):
    user = f"Ngữ cảnh: {context}\n\nCâu hỏi: {prompt}\n\nTrả lời: {response}\n\nNhãn:"
    msgs = [{"role": "system", "content": SYSTEM}, {"role": "user", "content": user}]
    text = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True)
    enc = tok(text, return_tensors="pt").to(model.device)
    out = model.generate(**enc, max_new_tokens=8, do_sample=False)
    return tok.decode(out[0, enc["input_ids"].shape[1]:], skip_special_tokens=True).strip()