Downloads · 30 days
478
6% of all-time downloads
shisa-7b-v1-gguf
mmnga/shisa-7b-v1-gguf
shisa-7b-v1-gguf is a machine learning model from mmnga. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
augmxntさんが公開しているshisa-7b-v1のggufフォーマット変換版です。
All-time downloads
7.9K
Public
Repo size
61.3 GB
Likes
6
Public
Repo makeup
Click a slice to open those files.
.gguf61.3 GB · 100%
At a glance
- License
- apache-2.0
- Access
- Public
- Created
- Dec 9, 2023
- Updated
- Dec 10, 2023
- SHA
- 551a6473
Model card
From the Hugging Face model README
shisa-7b-v1-gguf
augmxntさんが公開しているshisa-7b-v1のggufフォーマット変換版です。
Usage
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'shisa-7b-v1-q4_0.gguf' -n 512 -p '[INST] <<sys>> あなたは熱狂的なポケモンファンです。 \n<</sys>> ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。[/INST]' --temp 0.5
./main -m 'shisa-7b-v1-q4_K_M.gguf' -n 512 -p '[INST] <<sys>> あなたは日本語を英語に直す翻訳者です。 \n<</sys>> ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。[/INST]' --temp 0.5
変換スクリプト
python3 convert_shisa.py <model_dir> --outtype f16 --vocabtype spm
- License
- apache-2.0
- Languages
- ja, en
- Created
- Dec 9, 2023
- Updated
- Dec 10, 2023