Downloads · 30 days
153
2% of all-time downloads
Meta-Llama-3-70B-Instruct-GGUF
grapevine-AI/Meta-Llama-3-70B-Instruct-GGUF
Meta-Llama-3-70B-Instruct-GGUF is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as llama3.
Meta社の最新言語モデルMeta-Llama-3-70B-InstructをGGUFフォーマットに変換したものです。<br EOSトークン変更のコミット（May 13）を反映させております。<br また、llama.cppのpre-tokenization対応アップデート（6920）についても反映したモデルとなっています。
All-time downloads
9.1K
Public
Repo size
184 GB
Likes
1
Public
Repo makeup
Click a slice to open those files.
.gguf184 GB · 100%
At a glance
- License
- llama3
- Access
- Public
- Created
- Jun 20, 2024
- Updated
- Jun 22, 2024
- SHA
- 223c8a10
Model card
From the Hugging Face model README
What is this?
Meta社の最新言語モデルMeta-Llama-3-70B-InstructをGGUFフォーマットに変換したものです。<br> EOSトークン変更のコミット（May 13）を反映させております。<br> また、llama.cppのpre-tokenization対応アップデート（#6920）についても反映したモデルとなっています。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
Chat template
<|start_header_id|>system<|end_header_id|>\n\nここにsystemプロンプトを書きます<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nここにMessageを書きます<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n
Environment
Windows版llama.cpp-b3181およびllama.cpp-b3171同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
llama3 License
Developer
Meta
- License
- llama3
- Created
- Jun 20, 2024
- Updated
- Jun 22, 2024