Downloads · 30 days
72
8% of all-time downloads
grapevine-AI/DeepSeek-R1-0528-Qwen3-8B-GGUF
DeepSeek-R1-0528-Qwen3-8B-GGUF is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as mit.
DeepSeek (深度求索)が公式自らDeepSeek-R1-0528をQwen3-8Bに蒸留したThinkingモデル、DeepSeek-R1-0528-Qwen3-8BをGGUFフォーマットに変換したものです。
Downloads · 30 days
72
8% of all-time downloads
All-time downloads
855
Public
Repo size
31.8 GB
Likes
0
Public
Click a slice to open those files.
.gguf31.8 GB · 100%
From the Hugging Face model README
DeepSeek (深度求索)が公式自らDeepSeek-R1-0528をQwen3-8Bに蒸留したThinkingモデル、DeepSeek-R1-0528-Qwen3-8BをGGUFフォーマットに変換したものです。
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br>
BF16推論時のElyza_tasks 100スコアは3.95でした(Gemini 2.0 Flashで採点)。
Windows版llama.cpp-b5215および同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
MIT License
Alibaba Cloud & DeepSeek (深度求索)