qwen35-9b-short-cot-lora

Qwen3.5-9B Short-CoT LoRA

本仓库保存基于 Qwen/Qwen3.5-9B 训练的 LoRA adapter，用于判断两张图像中哪一张更接近任务完成状态。

仓库包含最佳 LoRA adapter、训练与验证数据、数据处理脚本、训练和推理脚本，以及基模和不同学习率实验的评测结果。

最终模型

最终采用：

• 基模：Qwen/Qwen3.5-9B
• 训练方式：LoRA
• 学习率：1e-4
• 训练轮数：2 epochs
• 最佳节点：checkpoint-2000
• 验证集准确率：79.0%
• 平衡准确率：79.01%

最佳 adapter 位于：

adapter/

仓库只包含 LoRA adapter，不包含 Qwen3.5-9B 基模权重。

实验结果

验证集共 1000 条，标签分布为：img1 509 条，img2 491 条。

LoRA 微调将总体准确率由 53.9% 提高至 79.0%，提升 25.1 个百分点。基模存在明显的 img2 预测偏好，微调后两类准确率基本均衡。

5e-5 实验作为学习率对照保留训练记录和评测汇总，但对应 adapter 未上传。

训练配置

训练总计 2500 个更新 step。最终模型根据验证集图像对判断准确率选取。

数据

数据规模与划分

• 训练集：10000 条
• 验证集：1000 条
• 每条样本包含两张图像及对应的完成度比较答案
• 训练时设置 split_dataset_ratio=0，直接使用指定验证集

划分检查结果：完全重复图像对、重复单张图片和重复视频轨迹均为 0。因此训练集和验证集在轨迹层面相互独立。

数据目录

data/
├── processed/
│   ├── swift_train_10000.jsonl
│   └── swift_val_1000.jsonl
└── source_format/
    ├── cot_trainset_10000.json
    └── cot_trainset_val_1000.json

data/processed/ 是训练脚本实际读取的 MS-SWIFT 格式；data/source_format/ 保存转换前的消息格式。

图片路径说明

仓库中的 JSON/JSONL 中的图片路径是训练服务器上的绝对路径，例如：

/root/autodl-tmp/qwen35_spatiallogic/data/raw/SpatialLogic-Processed/...

在其他机器运行前，需要单独准备对应的 SpatialLogic 图片，将 JSON/JSONL 中的路径前缀替换为本地数据路径，并确认所有图片文件均可访问。

目录结构

.
├── adapter/                       # 最佳 LoRA adapter
├── data/
│   ├── processed/                 # 实际训练输入
│   └── source_format/             # 转换前数据
├── results/
│   ├── baseline/                  # 基模评测结果
│   ├── lr1e-4/                    # 最佳实验及各节点汇总
│   └── lr5e-5/                    # 学习率对照汇总
├── scripts/
│   ├── data_preparation/          # 数据抽取与格式转换
│   ├── train_lora_10000_2epochs_lr1e4.sh
│   ├── train_lora_10000_2epochs_lr5e5.sh
│   ├── infer_val.sh
│   └── evaluate_img_pair.py
└── training_logs/
    ├── lr1e-4/
    └── lr5e-5/

推理

先准备 Qwen3.5-9B 基模，并进入本仓库根目录。

使用最佳 LoRA：

MODEL_PATH=/path/to/Qwen3.5-9B \
bash scripts/infer_val.sh best_lora adapter

只运行基模：

MODEL_PATH=/path/to/Qwen3.5-9B \
bash scripts/infer_val.sh base_model

脚本默认激活名为 qwen35 的 Conda 环境。如果环境名称不同：

CONDA_ENV=your_env_name \
MODEL_PATH=/path/to/Qwen3.5-9B \
bash scripts/infer_val.sh best_lora adapter

评测

推理完成后执行：

python scripts/evaluate_img_pair.py \
  --result-file outputs/infer_best_lora/val1000_bs32_TIMESTAMP.jsonl \
  --val-file data/processed/swift_val_1000.jsonl \
  --eval-dir outputs/eval_best_lora \
  --run-name best_lora

评测会输出总体准确率、平衡准确率、分类别准确率、混淆矩阵、全部预测 CSV、错误样本和无法解析样本。

重新训练

最终采用的 1e-4 配置：

MODEL_PATH=/path/to/Qwen3.5-9B \
bash scripts/train_lora_10000_2epochs_lr1e4.sh

5e-5 对照配置：

MODEL_PATH=/path/to/Qwen3.5-9B \
bash scripts/train_lora_10000_2epochs_lr5e5.sh

当前限制

• 当前 79.0% 是验证集结果，不是独立测试集结果。
• 数据文件中的绝对图片路径需要根据本地环境修改。