ai_in_action_lab21

ai_in_action_lab21 — LoRA adapter (cấu hình đúng)

LoRA adapter fine-tune từ unsloth/Qwen3.5-4B để phân loại ticket chăm sóc khách hàng tiếng Việt thành JSON triage (intent, urgency, product, sentiment). Bài lab 21 — Fine-tuning LLMs (LoRA/QLoRA).

Tác giả: Trần Văn Hiếu · MSSV 2A202602030

Cấu hình huấn luyện

Kết quả đánh giá (n = 50 mẫu target)

Cảnh báo trước khi dùng

Adapter này trượt cổng hồi quy: điểm regression (đo năng lực trả lời câu hỏi phổ thông ngoài phạm vi triage) rơi từ 0.7578 xuống 0.4556 sau fine-tune — mất 0.3022 điểm, gấp hơn 15 lần tolerance 0.020. Model giỏi sinh JSON triage nhưng đã mất gần 40% năng lực chung, nên không nên dùng làm assistant tổng quát. Khuyến nghị: chỉ gọi adapter này sau một bước router đã xác định đúng đây là ticket CSKH, hoặc trộn thêm dữ liệu phổ thông vào tập train rồi huấn luyện lại.

Cách nạp

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

BASE = "unsloth/Qwen3.5-4B"
tok = AutoTokenizer.from_pretrained(BASE)
model = AutoModelForCausalLM.from_pretrained(BASE, device_map="auto")
model = PeftModel.from_pretrained(model, "Marvis12957/ai_in_action_lab21")

Chi tiết đầy đủ (baseline, đối chứng cấu hình sai, phân tích định tính) trong báo cáo lab.