Downloads · 30 days
62
1% of all-time downloads
Local-Novel-LLM-project/Ocuteus-v1-gguf
Ocuteus-v1-gguf is a text generation model from Local-Novel-LLM-project. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as apache-2.0.
Downloads · 30 days
62
1% of all-time downloads
All-time downloads
5.5K
Public
Repo size
8.3 GB
Likes
4
Public
Click a slice to open those files.
.gguf8.3 GB · 100%
From the Hugging Face model README
OcuteusのGGUF版です。
Kobold cpp上で使用することを推奨します。
また、トークン数の関係から、高解像度の画像は解像度を落として入力することをおすすめします。
使用例:

簡単な使用方法:
kobold.cpp 内のModelFiles ページの
Model にOcuteus-v1-q8_0.gguf
LLaVA mmprojに Ocuteus-v1-mmproj-f16.ggufをそれぞれ選択してください。

推奨されるContext Size は 16384 となっています。
