Downloads · 30 days
38
1% of all-time downloads
mmnga/OrionStarAI-Orion-14B-LongChat-gguf
OrionStarAI-Orion-14B-LongChat-gguf is a machine learning model from mmnga. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as other.
OrionStarAIさんが公開しているOrion-14B-LongChatのggufフォーマット変換版です。
Downloads · 30 days
38
1% of all-time downloads
All-time downloads
4.4K
Public
Repo size
102 GB
Likes
1
Public
Click a slice to open those files.
.gguf102 GB · 100%
From the Hugging Face model README
OrionStarAIさんが公開しているOrion-14B-LongChatのggufフォーマット変換版です。
元モデルのライセンス項目をご確認ください。
orion-14b-series-models-community-license
他のモデル
mmnga/OrionStarAI-Orion-14B-LongChat-gguf
mmnga/OrionStarAI-Orion-14B-Chat-RAG-gguf
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'OrionStarAI-Orion-14B-LongChat-q4_0.gguf' -p "User: 今晩の夕食のレシピを考えて \n Orion-14B: " -n 128 --frequency-penalty 0.5 --frequency-penalty 0.5 --top-k 5 --top-p 0.9 -e