HachiML-youri-2x7b_v0.2-gguf

HachiML-youri-2x7b_v0.2-gguf

HachiMLさんが公開している-youri-2x7b_v0.2のggufフォーマット変換版です。

変換スクリプト

convert_youri_7b.py

Usage

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'HachiML-youri-2x7b_v0.2-q4_0.gguf' -p "以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。 \n\n### 指示: \n\n 次の日本語を英語に翻訳してください。 \n\n### 入力: \n大規模言語モデル（だいきぼげんごモデル、英: large language model、LLM）は、多数のパラメータ（数千万から数十億）を持つ人工ニューラルネットワークで構成されるコンピュータ言語モデルで、膨大なラベルなしテキストを使用して自己教師あり学習または半教師あり学習によって訓練が行われる。 \n\n### 応答:\n" -n 256 --temp 0.5

---

How to cite

@misc{RinnaYouri7bInstruction,, 
    url={https://huggingface.co/rinna/youri-7b-instruction}, 
    title={rinna/youri-7b-instruction}, 
    author={Zhao, Tianyu and Sawada, Kei}
}

License

The llama2 license