Downloads · 30 days
5
1% of all-time downloads
CryingN/Sakana-Lily-1b-it-Persona-gguf
Sakana-Lily-1b-it-Persona-gguf is a machine learning model from CryingN. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
基于 Gemma-3-1B-IT 重构 Tokenizer 与 Embedding 空间,全量微调的角色扮演对话模型。提供 GGUF 格式量化版本,可在普通消费级设备上高效运行。
Downloads · 30 days
5
1% of all-time downloads
All-time downloads
344
Public
Repo size
3.4 GB
Likes
0
Public
Click a slice to open those files.
.gguf3.4 GB · 100%
From the Hugging Face model README
基于 Gemma-3-1B-IT 重构 Tokenizer 与 Embedding 空间,全量微调的角色扮演对话模型。提供 GGUF 格式量化版本,可在普通消费级设备上高效运行。
Lily 为 Sakana 网络安全团队的看板娘形象,当前仓库全量微调为可交互的对话模型。模型在一定程度注入了 Lily 的角色人格,适用于轻量级角色扮演和安全问答对话场景。

⚠️ 注意:本模型主要用于扩展 Lily 形象生态,不具备完善的安全分析能力,不适合直接用于安全检测或防御任务。
| 文件 | 大小 | 量化格式 | 说明 |
|---|---|---|---|
Sakana-Lily-1b-Persona-f16.gguf | ~1.7 GB | float16 | 完整精度 |
Sakana-Lily-1b-Persona-q8_0.gguf | ~0.9 GB | q8_0 | 8-bit 量化,质量与体积均衡 |
Sakana-Lily-1b-Persona-q4_0.gguf | ~0.6 GB | q4_0 | 4-bit 量化,适合低配设备 |

训练基于Gemma3-1B--it 进行全量微调,使用 SwanLab 记录训练指标。
推荐使用 llama.cpp 或其衍生项目(如 Ollama、LM Studio)加载运行。
# 使用 llama.cpp 交互式对话
./llama-cli -m Sakana-Lily-1b-Persona-q4_0.gguf