Downloads · 30 days
19
1% of all-time downloads
aya-expanse-8b-gguf
grapevine-AI/aya-expanse-8b-gguf
aya-expanse-8b-gguf is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as cc-by-nc-4.0.
CohereForAIのマルチリンガル言語モデルaya-expanse-8bをGGUFフォーマットに変換したものです。
All-time downloads
1.8K
Public
Repo size
46.7 GB
Likes
6
Public
Repo makeup
Click a slice to open those files.
.gguf46.7 GB · 100%
At a glance
- License
- cc-by-nc-4.0
- Access
- Public
- Created
- Oct 30, 2024
- Updated
- Oct 30, 2024
- SHA
- ef52d569
Model card
From the Hugging Face model README
What is this?
CohereForAIのマルチリンガル言語モデルaya-expanse-8bをGGUFフォーマットに変換したものです。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> imatrixの算出は本来の数値精度であるfloat16モデルを使用して行いました。
Chat template
<|START_OF_TURN_TOKEN|><|SYSTEM_TOKEN|>ここにSystem Promptを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|USER_TOKEN|>ここにMessageを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>
Environment
Windows版llama.cpp-b3621およびllama.cpp-b3472同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
cc-by-nc-4.0
Developer
CohereForAI
- License
- cc-by-nc-4.0
- Languages
- ja
- Created
- Oct 30, 2024
- Updated
- Oct 30, 2024