Breeze-ASR-26-GGML

Breeze-ASR-26-GGML

本模型由 MediaTek-Research/Breeze-ASR-26 轉換為 whisper.cpp 量化格式，未額外微調。

量化

• 後端：whisper.cpp
• 量化：q8_0, q5_0, q4_0, q4_1

評估

資料來源：教育部臺灣台語常用詞辭典例句音檔，取 hanzi 長度最長的 100 筆樣本。

• 教育部臺灣台語常用詞辭典相關資源

CER 以原始 HF float16 推論結果作為偽參考，用來衡量轉換/量化後的輸出偏移；這不是人工標註逐字稿 CER。計算前會先移除所有空白，再計算字元級 Levenshtein 距離。

量化部署建議優先使用 CT2 int8：100 筆全數成功，VRAM 約 2097-2129 MiB，相對 HF float16 基準的 CER 為 0.1263。

相對 HF 基準的 CER

基準：vllm-hf-float16.jsonl。

更多資訊

評估程式、資料準備與完整報表： https://github.com/phate334/stt-eval