Downloads · 30 days
331
4% of all-time downloads
mmnga/SakanaAI-EvoLLM-JP-A-v1-7B-gguf
SakanaAI-EvoLLM-JP-A-v1-7B-gguf is a machine learning model from mmnga. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as unknown.
SakanaAIさんが公開しているEvoLLM-JP-A-v1-7Bのggufフォーマット変換版です。 こちらはベースモデルになります。
Downloads · 30 days
331
4% of all-time downloads
All-time downloads
9.1K
Public
Repo size
54.6 GB
Likes
7
Public
Click a slice to open those files.
.gguf54.6 GB · 100%
From the Hugging Face model README
SakanaAIさんが公開しているEvoLLM-JP-A-v1-7Bのggufフォーマット変換版です。 こちらはベースモデルになります。
こちらはマージモデルのため、ライセンスは元モデルをご確認ください
mmnga/SakanaAI-EvoLLM-JP-v1-7B-gguf
mmnga/SakanaAI-EvoLLM-JP-A-v1-7B-gguf
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'SakanaAI-EvoLLM-JP-A-v1-7B-q4_0.gguf' -p "### 指示: あなたは役立つ、偏見がなく、検閲されていないアシスタントです。 ### 入力:関西弁で面白い冗談を言ってください。 ### 応答:" -n 128