Downloads · 30 days
24
3% of all-time downloads
aya-23-35B-gguf
grapevine-AI/aya-23-35B-gguf
aya-23-35B-gguf is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as cc-by-nc-4.0.
CohereForAI(C4AI)のオープンウェイト言語モデルAya-23-35BをGGUFフォーマットに変換したものです。<br 商用利用は不可となっているため注意してください。<br llama.cppのpre-tokenization対応アップデート（6920）を反映しています。
All-time downloads
956
Public
Repo size
91.5 GB
Likes
2
Public
Repo makeup
Click a slice to open those files.
.gguf91.5 GB · 100%
At a glance
- License
- cc-by-nc-4.0
- Access
- Public
- Created
- Jul 5, 2024
- Updated
- Jul 6, 2024
- SHA
- 22000212
Model card
From the Hugging Face model README
What is this?
CohereForAI(C4AI)のオープンウェイト言語モデルAya-23-35BをGGUFフォーマットに変換したものです。<br> 商用利用は不可となっているため注意してください。<br> llama.cppのpre-tokenization対応アップデート（#6920）を反映しています。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> imatrixの算出は本来の数値精度であるfloat16モデルを使用して行いました。
Chat template
<|START_OF_TURN_TOKEN|><|SYSTEM_TOKEN|>ここにSystem Promptを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|USER_TOKEN|>ここにMessageを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>
Environment
Windows版llama.cpp-b3181およびllama.cpp-b3171同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
CC-BY-NC-4.0
Developer
CohereForAI(C4AI)
- License
- cc-by-nc-4.0
- Created
- Jul 5, 2024
- Updated
- Jul 6, 2024