Downloads · 30 days
0
JasmineCTJ/meta-llama_Llama-3.2-1B_LoRA
meta-llama_Llama-3.2-1B_LoRA is a text generation model from JasmineCTJ. Use it when you need the model to write or continue text. The card lists the license as mit.
本模型是基於 Meta 的 meta-llama/Llama-3.2-1B 模型進行微調(使用 LoRA 技術), 訓練目標是讓模型具備回答保險相關問題的能力,例如保單介紹、理賠流程、險種差異等。
Downloads · 30 days
0
Access
Public
Updated Apr 13, 2025
Repo size
17.2 MB
Likes
0
Public
Click a slice to open those files.
Other1.5 KB · 56%
From the Hugging Face model README
本模型是基於 Meta 的 meta-llama/Llama-3.2-1B 模型進行微調(使用 LoRA 技術),
訓練目標是讓模型具備回答保險相關問題的能力,例如保單介紹、理賠流程、險種差異等。
你可以使用 🤗 transformers + peft 這樣載入模型:
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
# 先載入 base model
base_model = "meta-llama/Llama-3.2-1B"
lora_model = "JasmineCTJ/meta-llama_Llama-3.2-1B_Lora"
model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
model = PeftModel.from_pretrained(model, lora_model)
tokenizer = AutoTokenizer.from_pretrained(base_model)