BaZi-Qwen3-1.7B-GGUF

模型简介

这是一个面向八字命理问答场景的中文模型（GGUF 版本）。
模型基于 Qwen/Qwen3-1.7B-Base，经过多个古籍的预训练与专家问答监督微调(SFT)：

• 命理术语一致性（五行、十神、格局、用神忌神等）
• 结构化回答能力（分点说明、先结论后依据）
• 规则推断表达能力（命局关系与逻辑说明）

---

适用任务

• 八字命理知识问答
• 术语解释与规则说明
• 命理学习辅助与资料整理

---

使用方式

1 llama.cpp

./llama-cli \
  -m ./your-model.gguf \
  -p "你是一名八字命理研究助手。请解释什么是用神，并给出判断要点。" \
  -n 256 --temp 0.7 --top-p 0.9

2 ollama

ollama是本地运行大模型的工具，支持多种开源LLM，简单易用。

1、通过ollama加载自定义的gguf模型

新建bazi.modelfile，写入：

FROM ./qwen3-bazi-1.7B.gguf

FROM .
TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ range .Messages }}{{ if eq .Role "user" }}<|im_start|>user
{{ .Content }}<|im_end|>
<|im_start|>assistant
{{ else if eq .Role "assistant" }}{{ .Content }}<|im_end|>
{{ end }}{{ end }}"""

PARAMETER stop "<|im_end|>"
PARAMETER num_ctx 1024

2、加载并命名此模型为bazi

ollama create -f bazi.modelfile bazi

3、启动推理

ollama run bazi