Downloads · 30 days
200
20% of all-time downloads
tokimoa/GPT-OSS-Swallow-20B-RL-v0.1-MLX-MXFP4
GPT-OSS-Swallow-20B-RL-v0.1-MLX-MXFP4 is a text generation model from tokimoa. Use it when you need the model to write or continue text. It is set up for mlx. The card lists the license as apache-2.0.
東京科学大・産総研の GPT-OSS-Swallow-20B-RL-v0.1(gpt-ossの日本語継続事前学習版)をMLX MXFP4に変換したものです。本モデルのMLX変換としては初の公開です。
Downloads · 30 days
200
20% of all-time downloads
All-time downloads
985
Public
Parameters
20.9B
11.2 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors11.1 GB · 100%
How the weights are stored.
U3220.9B · 100%
From the Hugging Face model README
東京科学大・産総研の GPT-OSS-Swallow-20B-RL-v0.1(gpt-ossの日本語継続事前学習版)をMLX MXFP4に変換したものです。本モデルのMLX変換としては初の公開です。
gpt-oss系はMXFP4で学習されたモデルです。一般的なaffine方式の4bit量子化では推論が正常に終了しなくなる事象を実測で確認しており、本変換は元の学習と同じMXFP4方式を使用しています。詳細は 実務LLM評価レポート2026Q3 の「量子化は方式を間違えると『動くのに壊れている』状態になる」を参照。
| タスク | 指標 | スコア |
|---|---|---|
| 議事録要約 | 事実忠実度(0-2) | 1.05 |
| RAG引用 | 引用F1 | 0.708 |
| RAG引用 | 詐称(回答不能12問への捏造) | 0/12 |
| 実効速度 | tok/s(議事録生成/RAG) | 91 / 54(今回評価した10構成中の最速) |
速度最優先の用途向け。品質数値はモデル自体の実力で、変換に起因する劣化ではありません(出力は健全な日本語)。
<|channel|>analysis → <|channel|>final)です。最終回答は finalチャンネルを抽出してくださいtokyotech-llm/GPT-OSS-Swallow-20B-RL-v0.1(公式BF16・transformers形式)mlx-lm 0.31.3 / mlx_lm convert -q --q-mode mxfp4Apache 2.0(変換元のライセンスを継承)