Qwen2.5-7B-ReWrite

AI-ReWrite Qwen2.5-7B Humanize

这是一个用于将中英文 AI 风格文本改写为更自然的人类写作风格的模型。模型基于 Qwen2.5-7B-Instruct，通过 LoRA 进行监督微调（SFT），并将最佳 LoRA adapter 完整合并回基础模型。当前目录包含可直接通过 Transformers 加载的 BF16 Safetensors 权重，不需要额外挂载 LoRA adapter。

模型信息

训练任务

训练数据统一为以下格式：

{
  "instruction": "Rewrite the provided text in a natural, human-written style while preserving its original meaning, facts, language, and formatting. Do not add explanations. 请将给定文本改写为自然的人类写作风格，保持原意、事实、语言和格式不变，不要添加解释。",
  "input": "需要改写的 AI 风格文本",
  "output": "目标人类写作风格文本"
}

训练时使用 Qwen ChatML 模板，将 instruction 作为 system message、input 作为 user message、output 作为 assistant message。损失只计算 assistant 回复部分，system 和 user tokens 均被 mask。

训练数据

清洗合并后共有 43,124 条训练候选数据，按固定随机种子从中划分 42,261 条用于训练、 863 条用于验证（验证比例 2%）。另外保留 100 条英文人工改写数据作为最终测试集， 该测试集没有参与训练、early stopping 或最佳模型选择。

中文数据

中文数据来自 XiangJinYu/Qwen3.5-9B-Humanize-Dataset，共保留 24,999 条：

该数据以中文学术摘要和正式写作为主，数据集标注许可证为 CC BY-NC 4.0。

英文数据

英文训练数据来自 KNipun/ai-humanizer，共保留 18,125 条：

该数据从原始长 prompt 的 Input: 区段中抽取源文本，以 completion 作为目标文本， 数据集标注许可证为 Apache 2.0。

独立测试集

测试集来自 alexreversegpt/ai-writing-tells，包含 100 组人工编写的英文 ai_text → human_text 改写对，数据集标注许可证为 CC BY 4.0。

数据清洗

清洗过程包括：

• 统一中英文 system instruction；
• 将 SFT、DPO 和英文 prompt 数据转换为统一的 instruction/input/output 格式；
• Unicode NFKC、换行和多余空白规范化；
• 删除空文本、过短或异常超长文本；
• 删除 input 与 output 完全相同的样本；
• 删除完全重复的输入输出对；
• 检查训练集与独立测试集不存在完全重复的样本对。

微调超参数

训练使用单张 NVIDIA RTX A6000 48 GB GPU。完整训练耗时约 25,515 秒（约 7 小时 5 分钟），吞吐量约 4.97 samples/s。

训练结果

验证损失在 step 2600 达到最低点：

step 2600 之后连续三次验证没有改善，因此 early stopping 在 step 3200 终止训练， 并恢复 step 2600 的最佳权重。全程汇总训练损失为 0.652253。

在保留的 100 条英文测试集上，使用 completion-only teacher-forced loss 进行对比：

测试 loss 相对下降约 57.14%。由于每个输入只有一个参考改写，该指标适合比较微调前后 的相对变化，不能替代人工评价。

Transformers 使用示例

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = "export/best-safetensors"
system_prompt = (
    "Rewrite the provided text in a natural, human-written style while preserving "
    "its original meaning, facts, language, and formatting. Do not add explanations. "
    "请将给定文本改写为自然的人类写作风格，保持原意、事实、语言和格式不变，"
    "不要添加解释。"
)

tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

messages = [
    {"role": "system", "content": system_prompt},
    {"role": "user", "content": "需要改写的文本"},
]
text = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(
    **inputs,
    max_new_tokens=512,
    do_sample=False,
    repetition_penalty=1.05,
)
result = tokenizer.decode(
    outputs[0, inputs["input_ids"].shape[1]:],
    skip_special_tokens=True,
)
print(result)

已知限制

• 中文训练数据以学术摘要和正式文本为主，对口语、小说、社交媒体等文体覆盖不足。
• 中文输出可能使用半角逗号和句号，这是训练目标文本中的格式特征。
• 模型更擅长压缩句子和简化表达，不一定能完全消除宣传腔、议论文模板或空泛修饰。
• 改写可能引入措辞变化或事实偏移，重要内容应进行人工复核。
• 独立测试集规模较小且只有英文，尚不能代表完整的中英文生成质量。
• 使用本模型时仍需遵守基础模型以及各训练数据集的许可证和使用限制。