Downloads · 30 days
3
3% of all-time downloads
Llama3-Athene-70B-GGUF
grapevine-AI/Llama3-Athene-70B-GGUF
Llama3-Athene-70B-GGUF is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as llama3.
Meta社の言語モデルMeta-Llama-3-70B-InstructをNexusflow社が微調整したモデルであるLlama3-Athene-70BをGGUFフォーマットに変換したものです。<br 商用利用は禁止となっていますのでご注意ください。
All-time downloads
89
Public
Repo size
184 GB
Likes
1
Public
Repo makeup
Click a slice to open those files.
.gguf184 GB · 100%
At a glance
- License
- llama3
- Access
- Public
- Created
- Jul 30, 2024
- Updated
- Jul 30, 2024
- SHA
- 9da776f0
Model card
From the Hugging Face model README
What is this?
Meta社の言語モデルMeta-Llama-3-70B-InstructをNexusflow社が微調整したモデルであるLlama3-Athene-70BをGGUFフォーマットに変換したものです。<br> 商用利用は禁止となっていますのでご注意ください。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
Chat template
<|start_header_id|>system<|end_header_id|>\n\nここにsystemプロンプトを書きます<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nここにMessageを書きます<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n
Environment
Windows版llama.cpp-b3389およびllama.cpp-b3436同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
llama3 License, CC-BY-NC-4.0
Developer
Meta & Nexusflow
- License
- llama3
- Created
- Jul 30, 2024
- Updated
- Jul 30, 2024