breeze-asr-25-coreml-ane

Breeze-ASR-25 CoreML & GGML 模型

針對 Apple Silicon (M1/M2/M3/A17/A18) 優化的 Breeze-ASR-25 語音辨識模型。

📦 模型檔案

Encoder (CoreML - ANE 加速)

• ggml-breeze-asr-25-encoder.mlmodelc.zip (556 MB)
  • 使用 Apple Neural Engine (ANE) 加速
  • 適用於 iPhone 12+ / M1 Mac+

Decoder (GGML - Metal GPU 加速)

• ggml-breeze-asr-25-q5k.bin (1.0 GB) - 推薦

  • 平衡品質與效能
  • 記憶體需求較低

• ggml-breeze-asr-25-q8_0.bin (1.6 GB)

  • 更高品質
  • 適合 16GB+ RAM 裝置

🛠️ 轉換工具

在 conversion_tools/ 目錄中提供了完整的轉換腳本：

1. Encoder 轉換 (CoreML)

cd conversion_tools
python convert_encoder.py

2. Decoder 轉換 (GGML)

cd conversion_tools
python convert_decoder.py --quantize q5_k

3. 通用轉換工具 (進階)

python convert-whisper-to-coreml_int8_support.py \
  --model MediaTek-Research/Breeze-ASR-25 \
  --encoder-only \
  --quantize-int8

📋 系統需求

• Python: 3.8+
• 依賴套件: 見 conversion_tools/requirements.txt
• Xcode: Command Line Tools (macOS)
• CMake: 用於編譯 whisper.cpp

🚀 快速開始

1. 安裝依賴：

pip install -r conversion_tools/requirements.txt

1. 下載模型：

# 從 HuggingFace 下載
huggingface-cli download sheep52031/breeze-asr-25-coreml-ane \
  ggml-breeze-asr-25-encoder.mlmodelc.zip \
  ggml-breeze-asr-25-q5k.bin

1. 解壓縮 Encoder：

unzip ggml-breeze-asr-25-encoder.mlmodelc.zip

📖 授權

本專案基於 Apache 2.0 授權。原始 Breeze-ASR-25 模型來自 MediaTek-Research。

🙏 致謝

• MediaTek Research - Breeze-ASR-25 模型
• ggerganov/whisper.cpp - GGML 推論引擎
• Apple CoreML - ANE 加速框架