Qwen3-TTS-12Hz-0.6B-Base-MNN

Qwen3-TTS-12Hz-0.6B-Base — MNN 推理资产

Qwen3-TTS-12Hz-0.6B-Base 的 MNN 格式转换资产，用于纯 CPU 零样本声音克隆推理，运行时无需 PyTorch / CUDA。

配合 Python 包 qwen3-tts-mnn 使用：

pip install qwen3-tts-mnn

from qwen3_tts_mnn import Qwen3TtsMnn

tts = Qwen3TtsMnn('path/to/this_repo', num_threads=6)
tts.load_voice('voice_dir')   # ref_code.i32.bin + spk_emb.f32.bin + meta.json
pcm = tts.synthesize('你好呀,我是小柒!')   # float32, 24kHz mono

文件结构

talker_step.mnn   # Talker LM 单步 (28 层, 带 KV cache, fp16 权重)
cp_step.mnn       # CodePredictor 单步 (5 层 x 15 组)
vocoder.mnn       # 12Hz codec -> 24kHz 波形
weights/*.bin     # 嵌入表/头 (fp16) + meta.json
tokenizer/        # Qwen2 BPE (vocab.json + merges.txt)

性能

Apple M5 Pro（6 线程，C++ 原生后端，包内附带 macOS arm64 扩展）：RTF 0.75~0.95，可实时合成。 纯 pymnn 回退路径 RTF 1.4~1.7。

精度

贪心解码 codec 与原生 PyTorch 推理对比：g0 匹配 99.0%，全 16 组匹配 99.9%。

声线资产

声线目录（ref_code.i32.bin / spk_emb.f32.bin / meta.json）由官方 PyTorch 模型离线提取一次：

pip install qwen3-tts-mnn[extract]
qwen3-tts-mnn-extract --hf-model /path/to/Qwen3-TTS-12Hz-0.6B-Base \
    --ref-audio ref.wav --ref-text '参考音频逐字文本' -o my_voice/

License

代码 Apache-2.0；模型权重遵循 Qwen 模型许可证。