Downloads · 30 days
333
10% of all-time downloads
grapeV-ai/Qwen3.8-Flash-Next-GGUF
Qwen3.8-Flash-Next-GGUF is a machine learning model from grapeV-ai. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as other.
Qwen4のアーキテクチャを先取り!Qwen3.8-Flash-NextをGGUFフォーマットに変換したものです。
Downloads · 30 days
333
10% of all-time downloads
All-time downloads
3.3K
Public
Repo size
831 GB
Likes
4
Public
Click a slice to open those files.
.gguf831 GB · 100%
From the Hugging Face model README
Qwen4のアーキテクチャを先取り!Qwen3.8-Flash-NextをGGUFフォーマットに変換したものです。
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出にはQ6_K量子化モデルを使用しました。
各クオンツ・推論努力とそのベンチマークスコア(API版Gemma4 31B採点によるElyza_tasks 100)をまとめておきます。
| クオンツ | スコア | コメント |
|---|---|---|
| Q5_K_M(No Think) | 4.53 | |
| Q4_K_M(No Think) | 4.52 | |
| IQ4_XS(No Think) | 4.55 | |
| MXFP4(No Think) | 4.43 | |
| reasoning_strength: low | 4.5 | |
| reasoning_strength: medium | 4.515 | |
| reasoning_strength: xhigh | 4.54 |
-mm mmproj-Qwen3.8-Flash-Next-BF16.ggufでビジョンエンコーダーをロードし、Vision対応モデルとして使用することができます。
推論努力(Reasoning effort)はlow / medium / xhighから選択可能で、デフォルトはxhighです。<br> llama.cppのserverの場合は起動時に以下の引数を追加することで変更可能です。
--chat-template-kwargs '{\"reasoning_effort\":\"xhigh\"}'
qwen-community-1.0
Alibaba Cloud