Downloads · 30 days
239
63% of all-time downloads
yukimakura/Qwen3.8-27B-Q4_K_M-GGUF-2GB-split
Qwen3.8-27B-Q4_K_M-GGUF-2GB-split is a image-text-to-text model from yukimakura. Use it for the image-text-to-text task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
lmstudio-community/Qwen3.8-27B-GGUF の Qwen3.8-27B-Q4KM.gguf を、llama.cpp の llama-gguf-split で 1ファイルあたり最大2GB に分割して 再アップロードしたものです。量子化のやり直しはしておらず、テンソルデータは元ファイルとビット単位で同一です (分割はロスレスで、精度は一切変わりません)。
Downloads · 30 days
239
63% of all-time downloads
All-time downloads
377
Public
Repo size
17.7 GB
Likes
0
Public
Click a slice to open those files.
.gguf17.7 GB · 100%
From the Hugging Face model README
lmstudio-community/Qwen3.8-27B-GGUF の
Qwen3.8-27B-Q4_K_M.gguf を、llama.cpp の llama-gguf-split で 1ファイルあたり最大2GB に分割して
再アップロードしたものです。量子化のやり直しはしておらず、テンソルデータは元ファイルとビット単位で同一です
(分割はロスレスで、精度は一切変わりません)。
b10430)llama-gguf-split --split --split-max-size 2G (llama.cpp b10408)| ファイル | 内容 |
|---|---|
Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf … | Q4_K_M 本体(分割シャード) |
mmproj-Qwen3.8-27B-BF16.gguf | 画像入力用プロジェクタ(分割なし・元ファイルそのまま) |
先頭シャードだけを指定すれば、残りは自動的に読み込まれます(結合作業は不要)。
huggingface-cli download yukimakura/Qwen3.8-27B-Q4_K_M-GGUF-2GB-split --local-dir ./Qwen3.8-27B-Q4_K_M
llama-cli -m ./Qwen3.8-27B-Q4_K_M/Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf \
--mmproj ./Qwen3.8-27B-Q4_K_M/mmproj-Qwen3.8-27B-BF16.gguf
llama-gguf-split --merge \
Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf \
Qwen3.8-27B-Q4_K_M.gguf
結合後のテンソルデータは元の Qwen3.8-27B-Q4_K_M.gguf とビット単位で同一です
(全 16,799,719,424 バイトを実際に比較して確認済み)。
なお llama-gguf-split --merge は split.no / split.count / split.tensors.count の
メタデータを残す仕様のため、結合後のファイル全体のサイズは元より64バイト大きくなります
(推論結果には影響しません)。
Apache-2.0(元モデル Qwen/Qwen3.8-27B に従います)。