privacy-counsel-ko-8b-lora

privacy-counsel-ko-8b-lora (v4-rebalanced)

대한민국 개인정보보호법 전문 상담 모델 — LoRA 어댑터 (667MB)

cywellai/privacy-counsel-ko-8b의 LoRA 어댑터입니다. 머지된 풀 모델(16GB)이 필요하면 위 링크를 이용하세요.

---

성능 요약

150문항 골드셋 · 5축 v2.1 채점 · Claude Opus 4.6 채점 · 2026-02-27

---

사용법

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base_model_name = "Qwen/Qwen3-8B"
adapter_name = "cywellai/privacy-counsel-ko-8b-lora"

tokenizer = AutoTokenizer.from_pretrained(base_model_name, trust_remote_code=True)
base_model = AutoModelForCausalLM.from_pretrained(
    base_model_name,
    torch_dtype="bfloat16",
    device_map="auto",
    trust_remote_code=True,
)
model = PeftModel.from_pretrained(base_model, adapter_name)

messages = [
    {"role": "user", "content": "개인정보 유출 시 대응 절차는?"},
]

text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=1500, temperature=0.5, do_sample=True)
response = tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True)
print(response)

---

LoRA 설정

학습 설정

---

관련 모델

• 풀 모델 (머지): cywellai/privacy-counsel-ko-8b (16GB, 바로 사용 가능)
• 베이스 모델: Qwen/Qwen3-8B