bge-meteo-zh-v2

BGE-Meteo-zh-v2

面向中文气象领域 RAG 检索的领域自适应嵌入模型，基于 BAAI/bge-large-zh-v1.5 微调。

版本关系：nmcsitian/bge-meteo-zh（未标版本号）为 v1；本仓库为 v2 全量重训版——训练语料 53→58 本、训练/评测划分全部重做（嵌套设计、ISBN 级零泄漏审计）、评测体系升级为 6 域留一交叉验证。v2 检索行为与 v1 有实质差异，建议在自有场景重新评测后切换。

训练配方

• 框架：FlagEmbedding，InfoNCE 对比学习（温度 τ=0.02）
• 数据：58 本气象专业书籍知识块合成 QA 共 8,012 条（每条 1 正例 + 7 困难负例）
• 困难负例：BM25 top-30 挖掘，含防泄漏设计（排除全部正例及同文本别名块）
• 超参：epochs=3，lr=1e-5，batch=4，train_group_size=8，BF16；query_max_len=128，passage_max_len=512
• 训练/评测数据按书籍整本严格隔离（ISBN 级零泄漏，经全矩阵审计验证）

用法（重要）

本模型为 CLS pooling。本仓库已包含 sentence-transformers 配置（modules.json + 1_Pooling/），用 SentenceTransformer 直接加载即为正确行为；若手工用 transformers 加载，请务必取 CLS 向量而非 mean pooling，否则检索精度大幅下降。

查询端需加指令前缀，文档端不加；向量需归一化：

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("nmcsitian/bge-meteo-zh-v2")
PREFIX = "为这个句子生成表示以用于检索相关文章："

q_emb = model.encode([PREFIX + "副热带高压对华南降水有什么影响？"], normalize_embeddings=True)
d_emb = model.encode(["副热带高压边缘的暖湿气流……"], normalize_embeddings=True)
score = (q_emb @ d_emb.T)

评测（零泄漏留出集，n=884，4 本未参训气象应用书）

适用边界（请务必阅读）

• 微调收益随领域距离衰减：在气象邻近领域（区域预报、行业气象服务等）大幅优于基座；在更远领域（如新能源电力预测、金融保险文本）单路向量可能低于基座（负迁移）
• 生产环境建议与 BM25 做加权 RRF 融合部署：融合可有效对冲远域/外部分布上的向量端劣势
• 通用（非气象）检索任务请直接使用基座模型

引用

如在研究或产品中使用本模型，请引用本仓库：

@misc{bge-meteo-zh-v2,
  title  = {BGE-Meteo-zh-v2: Domain-Adaptive Chinese Meteorological Embedding},
  author = {nmcsitian},
  year   = {2026},
  url    = {https://huggingface.co/nmcsitian/bge-meteo-zh-v2}
}