disaster-tweet-triage

Disaster Tweet Triage：微调模型

基于 Kaggle 比赛数据训练，仅限非商业用途。 Trained on Kaggle competition data. Non-commercial use only.

判断一条英文推文是否在报告真实灾害（标签 1 = 真实灾害，0 = 非灾害）。 这里是 disaster-tweet-triage 项目使用的模型，项目代码首次运行时会自动下载这些文件。

文件

本仓库不包含任何训练、验证或测试数据。

直接使用

from transformers import AutoModelForSequenceClassification, AutoTokenizer

repo = "sxyyyy/disaster-tweet-triage"
tokenizer = AutoTokenizer.from_pretrained(repo, subfolder="bert")
model = AutoModelForSequenceClassification.from_pretrained(repo, subfolder="bert")

inputs = tokenizer(["Forest fire near La Ronge Sask. Canada"], return_tensors="pt")
probs = model(**inputs).logits.softmax(dim=-1)  # 第 2 列为"真实灾害"的概率

训练时对文本做了规范化（还原 HTML 转义、链接替换为 http），推理时建议做同样的处理， 见项目中的 triage/preprocess.py。

训练

• 数据：Kaggle NLP with Disaster Tweets 的 train.csv，其中 id ≤ 8696 的 6090 条用于训练，其余 1523 条作为验证集。 训练集经过文本规范化、去除与验证集重复的样本、标签冲突多数投票和去重，最终为 5550 条。
• 超参数：BERT 学习率 2e-5，ModernBERT 学习率 5e-5；2 个 epoch；batch size 32；max_seq_length 128； weight decay 0.01；warmup 0.1；bf16；随机种子 42。
• 超参数由网格搜索（每组 3 个随机种子）在验证集的一半（校准半集，761 条）上选出。

评估

在验证集的另一半（报告半集，762 条，未参与任何选择）上：

同一配置 3 个随机种子的 Macro-F1：BERT 81.63 ± 0.11，ModernBERT 81.70 ± 1.11，两者的差异在种子波动范围内。

局限

• 仅支持英文；比喻性用法（如 "this mixtape is fire"）仍可能误判。
• 训练数据存在标签噪声。
• 两个模型都只在推文（≤ 82 token）上微调，ModernBERT 在长文本上的效果没有经过标注数据验证。

许可

• 模型权重：CC BY-NC 4.0。基于 Kaggle 比赛数据训练，仅限非商业用途；使用时还需遵守该比赛规则中对数据的限制。
• 基础模型：bert-base-uncased、ModernBERT-base（均为 Apache-2.0）。