Downloads · 30 days
25
2% of all-time downloads
grapevine-AI/llama-70b-r1-1776-distill-gguf
llama-70b-r1-1776-distill-gguf is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as llama3.3.
perplexity-aiによるDeepSeek-R1-Distill-Llama-70Bの検閲解除モデル、r1-1776-distill-llama-70bをGGUFフォーマットに変換したものです。
Downloads · 30 days
25
2% of all-time downloads
All-time downloads
1K
Public
Repo size
222 GB
Likes
0
Public
Click a slice to open those files.
.gguf222 GB · 100%
From the Hugging Face model README
perplexity-aiによるDeepSeek-R1-Distill-Llama-70Bの検閲解除モデル、r1-1776-distill-llama-70bをGGUFフォーマットに変換したものです。
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
<!-- # Chat template ``` <|start_header_id|>system<|end_header_id|>\n\nここにsystemプロンプトを書きます<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nここにMessageを書きます<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n ``` -->Windows版llama.cpp-b4514およびllama.cpp-b4524同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
LLAMA 3.3 COMMUNITY LICENSE
Meta & DeepSeek (深度求索) & Perplexity
Built with Llama