Downloads · 30 days
12
5% of all-time downloads
thnhan/llama3-3b-finetune-unsloth-qa
llama3-3b-finetune-unsloth-qa is a machine learning model from thnhan. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
Finetuned for Vietnamese Healthcare Question Answering Base model: unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit Library: PEFT / LoRA
Downloads · 30 days
12
5% of all-time downloads
All-time downloads
222
Public
Repo size
115 MB
Likes
0
Public
Click a slice to open those files.
.safetensors97.3 MB · 85%
From the Hugging Face model README
Finetuned for Vietnamese Healthcare Question Answering
Base model: unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit
Library: PEFT / LoRA
Mô hình được tinh chỉnh nhằm mục tiêu xây dựng một trợ lý y tế tiếng Việt có khả năng:
⚠️ Mô hình không phải là công cụ chẩn đoán y khoa. Không được dùng thay thế cho bác sĩ.
Mô hình này là phiên bản tinh chỉnh (instruction-tuned) tập trung vào miền y tế – sức khỏe với giọng điệu chuyên môn, rõ ràng và phù hợp cho người dùng Việt Nam.
unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bitfrom transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base_model = "unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit"
adapter = "your-username/vietnamese-medical-chatbot"
tokenizer = AutoTokenizer.from_pretrained(base_model)
model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
model = PeftModel.from_pretrained(model, adapter)
prompt = "Tôi bị đau đầu kéo dài 3 ngày, không sốt — có nguy hiểm không?"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=300)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))