Downloads · 30 days
98
16% of all-time downloads
grapeV-ai/Qwen3.6-27B-MTP-Only-GGUF
Qwen3.6-27B-MTP-Only-GGUF is a machine learning model from grapeV-ai. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
Qwen3.6-27BのMTP(=マルチトークン予測)レイヤーのみをGGUFフォーマットに変換したものです。<br こちらのGGUFは単体ではご利用いただけません。Qwen3.6-27B本体のGGUFと併せて使用することで、トークン生成を高速化できます。
Downloads · 30 days
98
16% of all-time downloads
All-time downloads
600
Public
Repo size
14.4 GB
Likes
0
Public
Click a slice to open those files.
.gguf14.4 GB · 100%
From the Hugging Face model README
Qwen3.6-27BのMTP(=マルチトークン予測)レイヤーのみをGGUFフォーマットに変換したものです。<br> こちらのGGUFは単体ではご利用いただけません。Qwen3.6-27B本体のGGUFと併せて使用することで、トークン生成を高速化できます。
-md このGGUFのパス --spec-type draft-mtp --spec-draft-n-max 2でMTPが有効化されます。
Apache 2.0
Alibaba Cloud