qwen2.5-1.5b-chinese-news-classifier

Qwen2.5-1.5B 中文新闻分类全量微调模型

本模型基于 Qwen/Qwen2.5-1.5B-Instruct，针对 10 类中文新闻分类任务完成全参数微调。训练使用 Qwen Chat Template 整理输入，并通过序列分类头输出类别。

类别

训练与结果

• 微调方式：全参数微调
• 任务形式：Qwen2ForSequenceClassification
• 训练数据：25,000 条，相当于 BERT 历史实验 180,000 条的约 13.9%
• 测试准确率：实验记录约 94%
• 权重精度：BF16

推理

import torch
from transformers import AutoModelForSequenceClassification, AutoTokenizer

repo_id = "zyhForHugging/qwen2.5-1.5b-chinese-news-classifier"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForSequenceClassification.from_pretrained(repo_id)
messages = [{"role": "user", "content": "中国队在本届比赛中取得胜利"}]
inputs = tokenizer.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=False,
    return_dict=True,
    return_tensors="pt",
)
with torch.no_grad():
    logits = model(**inputs).logits
label = model.config.id2label[int(logits.argmax(dim=-1).item())]
print(label)

完整项目

训练代码、数据集、BERT 微调、INT8 量化及 TextCNN 蒸馏模型见 GitHub 项目。

本模型继承基础模型的 Apache-2.0 许可。模型仅用于学习、研究与项目展示，实际应用前应在目标数据分布上重新验证。