phowhisper-vi-lora-rehearsal

V1: epoch -> 3, lora rank 8

CER base -> LoRA : 6.25% -> 5.11% (giảm +1.14 điểm)

char-acc : 93.75% -> 94.89%

Cải thiện: 142 (23.9%) | Giữ nguyên: 383 | Regress: 70 (11.8%)

V2: epoch -> (total 10) earlystop 6, lora rank 4 -> tổng quát hơn

CER base -> LoRA : 6.25% -> 2.83% (giảm +3.41 điểm)

char-acc : 93.75% -> 97.17%

Cải thiện: 231 (38.8%) | Giữ nguyên: 343 | Regress: 21 (3.5%)

Cơ chế: hai lực kéo khác nhau

• Không rehearsal: gradient chỉ đến từ câu khó (+ nhãn có thể nhiễu) → kéo model về một vùng hẹp, lệch. Hệ quả kép:
  • Quên (forgetting): dịch trọng số khỏi chỗ đang đúng → câu đúng biến thành sai (regression).
  • Overfit nhãn xấu: tập nhỏ + nhãn lỗi → model học thuộc cả cái sai.
• Có rehearsal: trộn câu đúng vào → chúng như mỏ neo giữ model ở hành vi đúng. Gradient trung bình cân bằng giữa "sửa cái sai" và "giữ cái đúng" → vừa cải thiện vừa không phá cái cũ, đồng thời regularization chống overfit.

So sánh có / không rehearsal Tiêu chí||❌ Không rehearsal||✅ Có rehearsal

• Regression (đúng→sai) || Cao || Thấp
• CER tổng thể (mục 9) || Dễ tệ đi vì "thiệt hại kèm theo" || Giảm bền hơn
• Overfit nhãn nhiễu ||Dễ || Được ghìm
• Gain riêng trên tập khó || Nhanh/mạnh hơn || Chậm/nhẹ hơn (gradient bị "pha loãng")
• Val CER qua từng epoch || Dao động || Mượt, ổn định

→ Bản chất là đánh đổi: không rehearsal sửa câu khó bạo tay hơn nhưng gây vạ lây; có rehearsal cải thiện ròng (net) tốt hơn vì ít regression.

Để tối ưu hơn

Giảm rehearsal xuống ~30–50% (vd dùng 400–600 câu trong dat_re thay vì 1000), hoặc Giữ nguyên nhưng tăng nhẹ NUM_EPOCHS / LORA_R. Quy tắc ngón tay: rehearsal ≈ 0.5–1× số câu khó là điểm cân bằng tốt; 2× như hiện tại thiên về "an toàn".