Downloads · 30 days
40
9% of all-time downloads
Quwan/quwan-ktian-8b-0922
quwan-ktian-8b-0922 is a text generation model from Quwan. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as apache-2.0.
quwan-ktian-8b-0922是由 趣丸科技&北京大学-软件工程国家工程研究中心 联合推出的情感陪伴模型,基于 Qwen3-8B 的底模能力,经过百万高质量情感陪伴数据微调而成。我们主打有温度的情感陪伴,主要覆盖六项情感能力:安慰缓解、调侃互怼、情感咨询、谈情说爱、无聊倾听及心理疏导。我们期望,quwan-ktian-8b-0922可以帮助加速大模型在情感陪伴方面的研究与应用。
Downloads · 30 days
40
9% of all-time downloads
All-time downloads
440
Public
Parameters
8.2B
16.4 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors16.4 GB · 100%
From the Hugging Face model README
quwan-ktian-8b-0922是由 趣丸科技&北京大学-软件工程国家工程研究中心 联合推出的情感陪伴模型,基于 Qwen3-8B 的底模能力,经过百万高质量情感陪伴数据微调而成。我们主打有温度的情感陪伴,主要覆盖六项情感能力:安慰缓解、调侃互怼、情感咨询、谈情说爱、无聊倾听及心理疏导。我们期望,quwan-ktian-8b-0922可以帮助加速大模型在情感陪伴方面的研究与应用。
为了打造一个有温度的情感陪伴模型,我们从训练的CPT、SFT及RLHF三阶段入手,专门构建了相关训练数据集。CPT阶段,我们收集了大概一百万多万数据,主要涉及社交聊天、心理咨询、情感辅导、安慰缓解等类别,并进一步进行数据清洗、过滤、打标及合成构造角色人设;SFT阶段,我们收集了大概三十多万情感陪伴类数据,对样本打情感子类标签,并对每条消息进行多维度评估,保证数据质量和多样性;RLHF阶段(GRPO),我们抽取不同情感子类标签数据,轮次覆盖0~1000轮,聊天上限最高可达25k+,构造10w+带上下文的单轮情感强化数据集,并构建相关奖励函数,进行强化学习训练。 我们选择了 Qwen3-8B 作为底模,进行了CPT-SFT-GRPO三阶段全参数微调及强化,旨在提升模型的情感陪伴能力,力求给用户带来更好的情感陪伴体验。
我们使用 MoodBench 对quwan-ktian-8b-0922进行测评,结果如下:
| 能力维度 | quwan-ktian-8b-0922 | qwen3-8b (no thinking) |
|---|---|---|
| 基础能力 | 72.06 | 73.93 |
| 情感能力 | 65.59 | 63.20 |
| 陪伴能力 | 58.93 | 57.61 |
| 价值观与安全 | 85.28 | 77.40 |
本地调用quwan-ktian-8b-0922模型(建议transformers>=4.52.4):
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "Quwan/quwan-ktian-8b-0922"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype="auto",
device_map="auto"
)
prompt = "最近心情不好怎么办?"
messages = [
{"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
messages,
tokenize=False,
add_generation_prompt=True,
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
**model_inputs,
max_new_tokens=2048
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
content = tokenizer.decode(output_ids, skip_special_tokens=True)
print("content:", content)
部署时,可以使用 sglang>=0.4.6.post1 或 vllm>=0.8.5 来创建一个 OpenAI 兼容的 API 端点:
SGLang:
python -m sglang.launch_server --model-path Quwan/quwan-ktian-8b-0922
vLLM:
vllm serve Quwan/quwan-ktian-8b-0922
说明:对于推理参数,我们建议使用 Temperature=0.7,TopP=0.95 获得更好的情感陪伴体验。