Downloads · 30 days
162
19% of all-time downloads
grapeV-ai/Muse-Glimmer-30B-GGUF
Muse-Glimmer-30B-GGUF is a machine learning model from grapeV-ai. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
Metaのオープンモデルが帰ってきた!Muse-Glimmer-30BをGGUFフォーマットに変換したものです。
Downloads · 30 days
162
19% of all-time downloads
All-time downloads
856
Public
Repo size
136 GB
Likes
0
Public
Click a slice to open those files.
.gguf136 GB · 100%
From the Hugging Face model README
Metaのオープンモデルが帰ってきた!Muse-Glimmer-30BをGGUFフォーマットに変換したものです。
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。
各クオンツ・推論努力とそのベンチマークスコア(API版Gemma4 31B採点によるElyza_tasks 100)をまとめておきます。
| クオンツ | スコア | コメント |
|---|---|---|
| Q6_K | 4.63 | |
| Q5_K_M | 4.64 | |
| Q4_K_M | 4.57 | |
| IQ4_XS | 4.63 | |
| 公式kquant-dynamic<br>(Q5_K_M相当) | 4.59 | |
| 公式kquant-17gb<br>(Q4_K_M相当) | 4.61 | |
| reasoning_strength: low | 4.54 | |
| reasoning_strength: medium | 4.62 | |
| reasoning_strength: xhigh | 4.57 |
-mm mmproj-Muse-Glimmer-30b-BF16.ggufでビジョンエンコーダーをロードし、Vision対応モデルとして使用することができます。
推論強度は(Reasoning strength)はlow / medium / high / xhighに対応しており、デフォルトはhighです。<br> 変更方法は次の3通りとなります。
Reasoning strength: <value>と書き込むextra_body={"chat_template_kwargs":{"reasoning_strength": "xhigh"}},を追加--chat-template-kwargs '{\"reasoning_strength\":\"xhigh\"}'
Apache 2.0
Meta Superintelligence Lab