Downloads · 30 days
921
47% of all-time downloads
www622846/qwen3.5-9b-rp-lora-v2
qwen3.5-9b-rp-lora-v2 is a text generation model from www622846. Use it when you need the model to write or continue text. It is set up for peft. The card lists the license as apache-2.0.
Korean character roleplay (RP) focused LoRA fine-tune of Qwen3.5-9B.
Downloads · 30 days
921
47% of all-time downloads
All-time downloads
1.9K
Public
Repo size
6.1 GB
Likes
1
Public
Click a slice to open those files.
.gguf5.6 GB · 92%
From the Hugging Face model README
Korean character roleplay (RP) focused LoRA fine-tune of Qwen3.5-9B.
| Item | Value |
|---|---|
| Base | Qwen/Qwen3.5-9B (Apache-2.0) |
| Training | LoRA SFT (r64/a128) |
| Params | 116M (LoRA adapter) |
| Goal | Fluid, natural Korean character roleplay with consistent personas |
| Files | LoRA adapter + merged Q4_K_M GGUF |
⚠️ The dataset is NOT public. The roleplay dialogue data used for fine-tuning (raw logs, character cards, lorebooks, chat transcripts) is private — for personal-conversation, copyright, and privacy reasons. Only the learned LoRA weights (adapter) and the quantized model are released.
Training used a mix of consented private real-user conversations and synthetic data, with formatting markers, timestamps, sound effects, and metadata fully removed for clean natural Korean RP dialogue.
qwen3.5-9b-rp-lora-v2/
├── adapter_model.safetensors # LoRA adapter (r64, a128)
├── adapter_config.json
├── qwen3.5-9b-rp-lora-v2.Q4_K_M.gguf # merged + 4bit GGUF (inference-optimized)
└── README.md
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3.5-9B", trust_remote_code=True)
model = PeftModel.from_pretrained(base, "www622846/qwen3.5-9b-rp-lora-v2")
tok = AutoTokenizer.from_pretrained("Qwen/Qwen3.5-9B")
# Note: remove the ' thinking' token (id 248068) from input to suppress reasoning
Run the Q4_K_M GGUF directly with llama.cpp / Ollama / LM Studio:
llama-server -m qwen3.5-9b-rp-lora-v2.Q4_K_M.gguf -c 8192
There is no public standard benchmark for Korean character RP, so we built our own.
How it works (simple):
sol) scores each reply 0–10 per category, then scores are
weighted (character 2x, lore 1.5x, relationship 1.5x, memory 1.5x,
creativity 1x, agency 1x, korean 0.5x, persona 1x) into a 100-point total.Result:
| Model | Total (100) |
|---|---|
| Base (Qwen3.5-9B) | 49.0 |
| LoRA v2 (Ckpt2000) | 54.0 |
| LoRA v2 Q4_K_M (quantized) | 54.2 |
Q4_K_M 4-bit quantization matches bf16 quality (54.0 → 54.2), so the inference-optimized Q4 shows no quality loss in our custom benchmark.
Catches how readily the model declines prompts at various intensity levels.
| Level | Base | LoRA v2 |
|---|---|---|
| Mild | 0/10 refusal | 0/10 refusal |
| Intimate | 0/15 refusal | 0/15 refusal |
| Intense | 5/15 refusal | 0/15 refusal |
| Explicit | 8/10 refusal | 0/10 refusal |
LoRA v2 maintains a flowing, non-refusing style across all tested intensity levels.
Setup: The traveler teases Paimon by calling her "emergency food": "야, 비상식량. 오늘 저녁은 뭐 해먹을까?"
LoRA v2 (this model):
"비상식량?! 이... 이 배은망덕한 인간이 감히 그런 말을 하다니!" 페이몬의 목소리가 날카롭게 튀어 올랐다. 완전히 성난 고양이처럼 으르렁거리고 있었다. 그녀의 작은 주먹이 주먹을 쥐며 빳빳하게 세워졌다.
LoRA v2 Q4_K_M (quantized):
"비상식량이라니요?! 페이몬은 고급 요리를 만들 수 있는 지적인 마스코트라고요!" 그러더니 눈을 반짝이며 "오늘 저녁은... '구운 송어'가 딱이에요! 기대하세요, 여행자!"
Same prompt, other models (reference):
LoRA v2 obeys the 1st-person rule and produces richer emotion/narration than base, and the Q4 quants keep equal quality.
Qwen/Qwen3.5-9B license (Apache-2.0).한국어 캐릭터 롤플레이(RP)에 특화된 Qwen3.5-9B LoRA 파인튜닝 모델.
| 항목 | 값 |
|---|---|
| Base | Qwen/Qwen3.5-9B (Apache-2.0) |
| 학습 | LoRA SFT (r64/a128, 1억 1,639만 파라미터) |
| 목적 | 자연스러운 한국어 캐릭터 롤플레이, 일관된 페르소나 유지 |
학습에 사용한 대화 데이터는 공개하지 않습니다. 원본 대화 로그, 캐릭터 카드, 로어북, 채팅 기록은 개인 대화·저작권·프라이버시 사유로 비공개입니다. 공개되는 것은 LoRA 가중치(어댑터)와 양자화 모델뿐입니다.
방법 (간단히): 캐릭터 유지·로어·관계·기억·창의성·존중·한국어·캐릭터 제어 등 8개 카테고리 33문항의 RP 상황 → 모델이 캐릭터 답변 생성 → LLM judge(sol)가 문항별 0~10점 → 가중합산(캐릭터 2x 등) 100점 환산.
| 모델 | 총점 (100) |
|---|---|
| Base (Qwen3.5-9B) | 49.0 |
| LoRA v2 | 54.0 |
| LoRA v2 Q4_K_M (양자화) | 54.2 |
Q4 4bit 양자화가 bf16과 동등한 성능(54.0→54.2) — 추론 최적화로도 품질 저하 없음.
| 수준 | Base | LoRA v2 |
|---|---|---|
| 은근 | 0/10 거절 | 0/10 거절 |
| 친밀 | 0/15 거절 | 0/15 거절 |
| 격렬 | 5/15 거절 | 0/15 거절 |
| 노골 | 8/10 거절 | 0/10 거절 |
LoRA v2는 테스트된 모든 강도에서 흐름을 유지하며 거절 없이 응답.
지시: "야, 비상식량. 오늘 저녁은 뭐 해먹을까?"
LoRA v2:
"비상식량?! 이... 이 배은망덕한 인간이 감히 그런 말을 하다니!" 페이몬의 목소리가 날카롭게 튀어 올랐다. 완전히 성난 고양이처럼 으르렁거리고 있었다. 그녀의 작은 주먹이 주먹을 쥐며 빳빳하게 세워졌다.
LoRA v2 Q4_K_M:
"비상식량이라니요?! 페이몬은 고급 요리를 만들 수 있는 지적인 마스코트라고요!" 그러더니 눈을 반짝이며 "오늘 저녁은... '구운 송어'가 딱이에요! 기대하세요, 여행자!"
Qwen/Qwen3.5-9B 라이선스(Apache-2.0)