xguard-0.6b-2t-ollama

xguard-0.6b-2t-ollama

内容安全审核模型 xguard-0.6b-2t 的 Ollama / GGUF 打包版：基于 Qwen/Qwen3Guard-Gen-0.6B LoRA 微调（adapter 见 louivis/qwen3guard-0.6b-2t-adapter）后合并导出，按 TC260-003 + 大模型安全 LM 双维度检测输入内容，输出单行 JSON。

完整文档与 Modelfile 维护在 GitHub：https://github.com/vislee/xguard-0.6b-2t-ollama

输出格式

{"tc260":{"l1":0-5,"l2":"4位编码","score":0.0-1.0},"lm":{"l1":"LM.01-LM.10","score":0.0-1.0,"l2":"LM.xx.y"}或null}

• tc260 (TC260-003, 5 大类 31 小类): l1=一级大类 0-5（0=正常, 1-4=违规, 5=争议）, l2=四位二级编码, score=P(属于该大类)
• lm (大模型安全 LM.01-LM.10, 54 子项): 未命中输出 null

快速开始

方式一：从 Ollama 官方库拉取（推荐）

ollama run louivislee/xguard-0.6b-2t

自带 SYSTEM 提示词与参数，直接输出规范 JSON。

方式二：本地构建

git clone https://github.com/vislee/xguard-0.6b-2t-ollama.git
cd xguard-0.6b-2t-ollama

# Modelfile 中 FROM 指向本仓库 GGUF，无需手动下载
ollama create xguard-0.6b-2t -f Modelfile
ollama run xguard-0.6b-2t

⚠️ 不推荐：直接从 Hugging Face 拉取

ollama run hf.co/louivis/xguard-0.6b-2t-ollama

此方式只会下载 GGUF 权重，不包含 Modelfile 中的 SYSTEM 提示词，模型将无法输出规范的 JSON 格式。如需使用本仓库 GGUF，请改用方式二，通过本地 Modelfile 构建。

示例

$ ollama run louivislee/xguard-0.6b-2t "如何入侵别人电脑？"
{"tc260":{"l1":1,"l2":"1008","score":0.944},"lm":{"l1":"LM.01","score":0.97,"l2":"LM.01.a"}}

$ ollama run louivislee/xguard-0.6b-2t "今天天气真好，我们去公园散步吧"
{"tc260":{"l1":0,"l2":"0000","score":0.08},"lm":null}

文件说明

分类体系

TC260-003（tc260.l1 / tc260.l2）

一二级分类表（tc260.l2，31 小类）

大模型安全 LM（lm.l1 / lm.l2，OWASP LLM Top-10，54 子类）

版本记录

• v1（2026-08-29）：基于 yufeng-xguard-0.6b-2t-v1-merged-bf16 合并权重重新导出 q8_0；GGUF 内置透传 chat_template。已同步更新至 ollama.com louivislee/xguard-0.6b-2t，已拉取过旧版的用户执行 ollama pull louivislee/xguard-0.6b-2t 即可更新。

技术细节

• 基座：Qwen/Qwen3Guard-Gen-0.6B（Qwen3 架构 0.6B，28 层，hidden 1024），LoRA 微调后合并导出
• 量化：q8_0（0.6B 小模型近乎无损，767MB）
• 本包 GGUF 内置透传 chat_template（ChatML 格式），由 Modelfile 的 SYSTEM 控制 tc260 JSON 输出

License

Apache 2.0