Downloads · 30 days
102
27% of all-time downloads
yoikoarmor/yoiko-img-prompt-gen-qwen3.5-4b-Q4_K_M
yoiko-img-prompt-gen-qwen3.5-4b-Q4_K_M is a text generation model from yoikoarmor. Use it when you need the model to write or continue text. It is set up for llama.cpp. The card lists the license as apache-2.0.
Qwen/Qwen3.5-4B をベースに、画像生成向けプロンプト生成用LoRAをマージし、llama.cpp向けにGGUF Q4KM量子化したモデルです。
Downloads · 30 days
102
27% of all-time downloads
All-time downloads
371
Public
Repo size
2.7 GB
Likes
1
Public
Click a slice to open those files.
.gguf2.7 GB · 100%
From the Hugging Face model README
Qwen/Qwen3.5-4B をベースに、画像生成向けプロンプト生成用LoRAをマージし、llama.cpp向けにGGUF Q4_K_M量子化したモデルです。
このモデルは汎用チャット用途ではなく、短い日本語または英語の入力を Stable Diffusion などで使いやすい positive prompt へ整える用途を想定しています。
| file | quantization | size | sha256 |
|---|---|---|---|
yoiko-img-prompt-gen-qwen3.5-4b-Q4_K_M.gguf | Q4_K_M | 2.523 GB | 85bce24e517f6d014a4aef1551b11fc0e64d4aac81e6448b152da839aa47a862 |
Qwen/Qwen3.5-4Byoikoarmor/yoiko-Qwen3.5-4B-lorallama-cli -m yoiko-img-prompt-gen-qwen3.5-4b-Q4_K_M.gguf ^
-p "女性、高身長、ビジネススーツ、刀、赤と青の目とバラ、強者" ^
-n 128 -c 1024 -ngl 999 --temp 0.7
-ngl 999 はGPUへ可能な限りoffloadする設定です。CPUだけで使う場合は -ngl 0 にしてください。
llama.cpp b9605, RTX 5090, -ngl 999, p16/tg8:
| backend | prompt eval | token generation |
|---|---|---|
| CPU | 138.81 t/s | 16.29 t/s |
| CUDA | 1908.76 t/s | 190.27 t/s |
This is a GGUF Q4_K_M quantization of a LoRA-merged Qwen/Qwen3.5-4B model for image prompt generation. It is intended to rewrite short Japanese or English inputs into Stable Diffusion-style positive prompts.