Downloads · 30 days
240
0% of all-time downloads
c4ai-command-r-plus-gguf
grapevine-AI/c4ai-command-r-plus-gguf
c4ai-command-r-plus-gguf is a machine learning model from grapevine-AI. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as cc-by-nc-4.0.
CohereForAI(C4AI)のオープンウェイト言語モデルCommand R+をGGUFフォーマットに変換したものです。<br 商用利用は不可となっているため注意してください。<br llama.cppのpre-tokenization対応アップデート（6920）を反映しています。
All-time downloads
85.9K
Public
Repo size
845 GB
Likes
7
Public
Repo makeup
Click a slice to open those files.
.gguf845 GB · 100%
At a glance
- License
- cc-by-nc-4.0
- Access
- Public
- Created
- Jun 22, 2024
- Updated
- Oct 13, 2024
- SHA
- 0d44897d
Model card
From the Hugging Face model README
What is this?
CohereForAI(C4AI)のオープンウェイト言語モデルCommand R+をGGUFフォーマットに変換したものです。<br> 商用利用は不可となっているため注意してください。<br> llama.cppのpre-tokenization対応アップデート（#6920）を反映しています。
imatrix dataset
日本語能力を重視し、日本語が多量に含まれるTFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。<br> なお、計算リソースの関係上imatrixの算出においてはQ6_K量子化モデルを使用しました。
Chat template
<|START_OF_TURN_TOKEN|><|SYSTEM_TOKEN|>ここにSystem Promptを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|USER_TOKEN|>ここにMessageを書きます<|END_OF_TURN_TOKEN|><|START_OF_TURN_TOKEN|><|CHATBOT_TOKEN|>
Environment
Windows版llama.cpp-b3181およびllama.cpp-b3171同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
License
CC-BY-NC-4.0
Developer
CohereForAI(C4AI)
- License
- cc-by-nc-4.0
- Created
- Jun 22, 2024
- Updated
- Oct 13, 2024