Downloads · 30 days
118
8% of all-time downloads
RichardErkhov/Local-Novel-LLM-project_-_kagemusya-7B-v1-gguf
Local-Novel-LLM-project_-_kagemusya-7B-v1-gguf is a machine learning model from RichardErkhov. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
Downloads · 30 days
118
8% of all-time downloads
All-time downloads
1.5K
Public
Repo size
82.2 GB
Likes
0
Public
Click a slice to open those files.
.gguf95.2 GB · 100%
From the Hugging Face model README
Quantization made by Richard Erkhov.
kagemusya-7B-v1 - GGUF
| Name | Quant method | Size |
|---|---|---|
| kagemusya-7B-v1.Q2_K.gguf | Q2_K | 2.53GB |
| kagemusya-7B-v1.IQ3_XS.gguf | IQ3_XS | 2.81GB |
| kagemusya-7B-v1.IQ3_S.gguf | IQ3_S | 2.96GB |
| kagemusya-7B-v1.Q3_K_S.gguf | Q3_K_S | 2.95GB |
| kagemusya-7B-v1.IQ3_M.gguf | IQ3_M | 3.06GB |
| kagemusya-7B-v1.Q3_K.gguf | Q3_K | 3.28GB |
| kagemusya-7B-v1.Q3_K_M.gguf | Q3_K_M | 3.28GB |
| kagemusya-7B-v1.Q3_K_L.gguf | Q3_K_L | 3.56GB |
| kagemusya-7B-v1.IQ4_XS.gguf | IQ4_XS | 3.67GB |
| kagemusya-7B-v1.Q4_0.gguf | Q4_0 | 3.83GB |
| kagemusya-7B-v1.IQ4_NL.gguf | IQ4_NL | 3.87GB |
| kagemusya-7B-v1.Q4_K_S.gguf | Q4_K_S | 3.86GB |
| kagemusya-7B-v1.Q4_K.gguf | Q4_K | 4.07GB |
| kagemusya-7B-v1.Q4_K_M.gguf | Q4_K_M | 4.07GB |
| kagemusya-7B-v1.Q4_1.gguf | Q4_1 | 4.24GB |
| kagemusya-7B-v1.Q5_0.gguf | Q5_0 | 4.65GB |
| kagemusya-7B-v1.Q5_K_S.gguf | Q5_K_S | 4.65GB |
| kagemusya-7B-v1.Q5_K.gguf | Q5_K | 4.78GB |
| kagemusya-7B-v1.Q5_K_M.gguf | Q5_K_M | 4.78GB |
| kagemusya-7B-v1.Q5_1.gguf | Q5_1 | 5.07GB |
| kagemusya-7B-v1.Q6_K.gguf | Q6_K | 5.53GB |
| kagemusya-7B-v1.Q8_0.gguf | Q8_0 | 7.17GB |
このモデルは、Ninja-V2をベースにおよそ1GBのWeb小説などからトレーニングした小説生成モデルです。
元来のチャット能力は最低限レベルに低下しましたが、小説の続きを書かせるといった用途に適しています。
黒:入力
<span style="color: blue; ">青:出力</span>
メロスは激怒した。必ず、かの邪智暴虐の王を除かなければならぬと決意した。メロスには、<span style="color: blue; ">その力があるのだ。
たとえ相手がどんなに強大であろうと、彼は決して負けないだろう。
「メロス様、ご報告申し上げます。かつて魔王と呼ばれたドラゴンラードが、ついに討伐されました」
「なんだと?」 メロスは、驚きに目を見開いた。
「魔王が、討伐されただと? 何者がそんなことを成したと言うのだ。まさか、あの若造ではあるまいな」
「いいえ。それがまた、あの若造です。彼は、私たちが束になっても勝てぬ魔王ラードを、たった一人で倒してしまったのです」
「ありえぬ……」
メロスは、頭を抱えた。</span>
AIへ質問する際の簡単な例
Q:この世の真理に迫ってください。
A:<span style="color: blue; ">まだ誰もが知る由もない未知の領域ですが、この宇宙が存在する理由、
またどうやって生まれたのかという根本的な問題に対する答えの探求が、
この世の真理に近づくことの一つだと思われます。</span>
小説の冒頭に
あらすじ:『作りたい物語のあらすじ』
ジャンル:『学園モノ、異世界転生、ハーレムetc..』
のような語句を書いておくとAIは気持ちその方向に小説を書いてくれるような気がします。
(書式はある程度融通が効きます)
基本的にははAI〇〇りすとっぽく使えると思います。
(実際そこのノウハウがある程度動きます。)