gigaam-v3-rnnt-mlx

GigaAM v3 e2e RNNT — MLX (Apple Silicon)

MLX-совместимая конвертация весов GigaAM v3 e2e RNNT (Sber, MIT) для inference на Apple Silicon через MLX.

Источник

Веса сконвертированы напрямую из ONNX-экспорта istupakov/gigaam-v3-onnx (MIT), commit 322c3b29492673eb7d0b434bfa9dfb8653e34d02 — не из стороннего MLX-порта. Тот же словарь (1024 SentencePiece-токена + implicit blank, 1025 классов), что и у оригинального ONNX-экспорта.

Конвертация: speech-dock проект, scripts/convert_gigaam_onnx_to_mlx.py — transpose Linear-весов (ONNX [in,out] → PyTorch/MLX [out,in]), axis-swap Conv1d-весов ((out,in,kernel) → (out,kernel,in) под mlx_conv1d), LSTM gate reorder (ONNX i,o,f,c → MLX i,f,g,o). Веса хранятся в F16 (inference-код приводит к float32 при загрузке).

Архитектура

Conformer encoder (16 слоёв, d_model=768, RoPE self-attention) + RNNT prediction network (1-layer LSTM, pred_hidden=320) + joint network. Полное соответствие gigaam-v3-onnx — тот же checkpoint, другой формат хранения.

Лицензия

MIT — как исходная модель GigaAM (Sber) и её ONNX-конвертация (istupakov).