qwen3-policechat

Qwen3-4B Police Chat Classification Model

這是一個基於 Qwen3-4B 微調的警察聊天文本分類模型，專門用於將警察相關的聊天內容分類到 41 個不同的類別中。

模型資訊

• Base Model: Qwen/Qwen3-4B
• Task: 文本分類 (Text Classification)
• Classes: 41 個警察相關類別 (A-AO)
• Format: GGUF (GGML Universal Format)
• Quantization: Q4_K_M (約 2.4GB)

分類類別

模型可以將文本分類到以下 41 個類別：

A=投訴員警, B=申請交通初判表, C=良民證, D=查詢案件, E=找人, F=查詢計程車營業證, G=家暴相關, H=失蹤人口, I=局長信箱, J=監視器, K=防空洞, L=婚喪喜慶路權申請, M=保全業務, N=報案, O=詐騙, P=申請國賠, Q=檢舉警察, R=申請大貨車臨時證, S=警示帳戶相關, T=檢舉攤販, U=遺失物/竊盜, V=找局長, W=申請入山, X=警察公墓, Y=署長信箱, Z=署長臉書NPA, AA=交通相關問題, AB=槍砲彈藥刀械, AC=史蹟館, AD=陳情, AE=拍賣相關, AF=法律問題, AG=噪音擾民, AH=問地址, AI=守望相助, AJ=傳真號碼, AK=車禍, AL=違停, AM=交通罰單, AN=查詢當鋪申請, AO=一般詢問

使用方法

使用 llama.cpp

# 下載模型
wget https://huggingface.co/ZJkyle/qwen3-4b-policechat/resolve/main/model-f16-Q4_K_M.gguf

# 使用 llama.cpp 進行推理
./llama-cli -m model-f16-Q4_K_M.gguf -p "你是一個精準的文本分類助手。

指令: 請根據以下選項，選擇最適合的分類代碼。只輸出代碼字母。

選項:
A=投訴員警, B=申請交通初判表, C=良民證, D=查詢案件, E=找人, F=查詢計程車營業證, G=家暴相關, H=失蹤人口, I=局長信箱, J=監視器, K=防空洞, L=婚喪喜慶路權申請, M=保全業務, N=報案, O=詐騙, P=申請國賠, Q=檢舉警察, R=申請大貨車臨時證, S=警示帳戶相關, T=檢舉攤販, U=遺失物/竊盜, V=找局長, W=申請入山, X=警察公墓, Y=署長信箱, Z=署長臉書NPA, AA=交通相關問題, AB=槍砲彈藥刀械, AC=史蹟館, AD=陳情, AE=拍賣相關, AF=法律問題, AG=噪音擾民, AH=問地址, AI=守望相助, AJ=傳真號碼, AK=車禍, AL=違停, AM=交通罰單, AN=查詢當鋪申請, AO=一般詢問

內容:
[你的文本內容]"

使用 Python (transformers)

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# 載入模型 (需要先將 GGUF 轉換回 Hugging Face 格式)
model_name = "ZJkyle/qwen3-4b-policechat"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# 準備輸入
prompt = """你是一個精準的文本分類助手。

指令: 請根據以下選項，選擇最適合的分類代碼。只輸出代碼字母。

選項:
A=投訴員警, B=申請交通初判表, C=良民證, D=查詢案件, E=找人, F=查詢計程車營業證, G=家暴相關, H=失蹤人口, I=局長信箱, J=監視器, K=防空洞, L=婚喪喜慶路權申請, M=保全業務, N=報案, O=詐騙, P=申請國賠, Q=檢舉警察, R=申請大貨車臨時證, S=警示帳戶相關, T=檢舉攤販, U=遺失物/竊盜, V=找局長, W=申請入山, X=警察公墓, Y=署長信箱, Z=署長臉書NPA, AA=交通相關問題, AB=槍砲彈藥刀械, AC=史蹟館, AD=陳情, AE=拍賣相關, AF=法律問題, AG=噪音擾民, AH=問地址, AI=守望相助, AJ=傳真號碼, AK=車禍, AL=違停, AM=交通罰單, AN=查詢當鋪申請, AO=一般詢問

內容:
[你的文本內容]"""

# 進行推理
inputs = tokenizer(prompt, return_tensors="pt")
with torch.no_grad():
    outputs = model.generate(**inputs, max_new_tokens=1, temperature=0.0)
    
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)

訓練資訊

• 訓練數據: 13,235 個樣本
• 訓練集: 10,588 個樣本
• 驗證集: 2,647 個樣本
• 訓練週期: 5 epochs
• 學習率: 3.0e-4
• LoRA 配置: r=32, alpha=64
• 最終訓練 Loss: 0.1045
• 最終驗證 Loss: 0.2162

注意事項

1. 模型使用 LoRA 微調，主要針對警察聊天文本分類任務
2. 建議使用貪婪解碼 (temperature=0.0) 以獲得一致的分類結果
3. 模型輸出為單一字母代碼，對應上述 41 個類別
4. 如需更高精度，可以使用 f16 版本 (7.5GB)

檔案說明

• model-f16-Q4_K_M.gguf: 量化版本 (2.4GB，推薦使用)
• model-f16.gguf: 完整精度版本 (7.5GB，如需更高精度)

授權

本模型基於 Qwen3-4B 進行微調，請遵循相應的授權條款。