grapeV-ai

gemma-4-12B-it-assistant-gguf

grapeV-ai/gemma-4-12B-it-assistant-gguf

gemma-4-12B-it-assistant-gguf is a machine learning model from grapeV-ai. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.

gemma-4-12B-itのマルチトークン予測（MTP）レイヤーをGGUFフォーマットに変換したものです。<br こちらのGGUFは単体ではご利用いただけません。gemma-4-12B-it本体のGGUFと併せて使用することで、トークン生成を高速化できます。<br 精度維持のため、Q40量子化に限り公式のQAT量子化版を元にGGUFを作成しております・