Downloads · 30 days
164
21% of all-time downloads
yoikoarmor/yoiko-img-prompt-gen-qwen3.5-9b-Q4_K_M
yoiko-img-prompt-gen-qwen3.5-9b-Q4_K_M is a text generation model from yoikoarmor. Use it when you need the model to write or continue text. It is set up for llama.cpp. The card lists the license as apache-2.0.
Qwen/Qwen3.5-9B をベースに、画像生成向けプロンプト生成用LoRAをマージし、llama.cpp向けにGGUF Q4KM量子化したモデルです。
Downloads · 30 days
164
21% of all-time downloads
All-time downloads
774
Public
Repo size
5.6 GB
Likes
0
Public
Click a slice to open those files.
.gguf5.6 GB · 100%
From the Hugging Face model README
Qwen/Qwen3.5-9B をベースに、画像生成向けプロンプト生成用LoRAをマージし、llama.cpp向けにGGUF Q4_K_M量子化したモデルです。
このモデルは汎用チャット用途ではなく、短い日本語または英語の入力を Stable Diffusion などで使いやすい positive prompt へ整える用途を想定しています。3モデルの中では最も大きく、表現量重視の選択肢です。
| file | quantization | size | sha256 |
|---|---|---|---|
yoiko-img-prompt-gen-qwen3.5-9b-Q4_K_M.gguf | Q4_K_M | 5.243 GB | 5a97d7d978f0c3e644e300fe00b14b1dca841ee1bab8f743c92979a41c2d6c3f |
Qwen/Qwen3.5-9Byoikoarmor/yoiko-Qwen3.5-9B-lorallama-cli -m yoiko-img-prompt-gen-qwen3.5-9b-Q4_K_M.gguf ^
-p "女性、高身長、ビジネススーツ、刀、赤と青の目とバラ、強者" ^
-n 128 -c 1024 -ngl 999 --temp 0.7
-ngl 999 はGPUへ可能な限りoffloadする設定です。CPUだけで使う場合は -ngl 0 にしてください。9Bは短い max_new_tokens だと末尾が切れやすいため、-n 96 以上を推奨します。
llama.cpp b9605, RTX 5090, -ngl 999, p16/tg8:
| backend | prompt eval | token generation |
|---|---|---|
| CPU | 86.76 t/s | 10.19 t/s |
| CUDA | 1539.87 t/s | 143.67 t/s |
This is a GGUF Q4_K_M quantization of a LoRA-merged Qwen/Qwen3.5-9B model for image prompt generation. It is intended to rewrite short Japanese or English inputs into Stable Diffusion-style positive prompts.