Qwen3-Swallow-32B-RL-v0.2-MLX-4bit

Qwen3-Swallow-32B-RL-v0.2 (MLX 4bit, verified)

東京科学大・産総研の Qwen3-Swallow-32B-RL-v0.2 を、公式BF16重みからMLX 4bitに変換したものです。日本語の業務タスクでの実測スコア付きで公開しています（変換品質の検証済み）。

実測スコア（tokimoa 実務LLM評価 2026Q3）

Apple Silicon（M4 Max 36GB）での実測。評価設計は 日本語 実務LLMランキング を参照。

dense 32Bのため実効速度は控えめです。品質重視・待ち時間許容の用途向け。

変換情報

• 変換元: tokyotech-llm/Qwen3-Swallow-32B-RL-v0.2（公式BF16、commit 23d2fa7）
• 変換: mlx-lm 0.31.3 / mlx_lm convert -q --q-bits 4（group size 64, 4.5 bpw）
• 変換者: tokimoa（個人変換版とは独立に、公式重みから変換）

使い方

from mlx_lm import load, generate

model, tokenizer = load("tokimoa/Qwen3-Swallow-32B-RL-v0.2-MLX-4bit")
prompt = tokenizer.apply_chat_template(
    [{"role": "user", "content": "こんにちは"}],
    add_generation_prompt=True, tokenize=False, enable_thinking=False,
)
print(generate(model, tokenizer, prompt=prompt, max_tokens=512))

License

Apache 2.0（変換元のライセンスを継承）

関連リポジトリ

• jitsumu-skills: 実測効果つきの日本語業務Agent Skills（本評価と同じ採点系でスキル有無を実測）
• jitsumu-metrics: 反復信頼性メトリクス pass^k / worst-of-k の定義と参照実装