modernbert-drive-command-base

ModernBERT Drive Command Parser

仅限非商业学术、科研、教学和个人实验，必须免费提供；不得用于真实车辆或机器人运行，也不得用于可能造成人身伤害或财产损失的高风险用途。CARLA 仅用于非商业离线仿真研究和评测。完整约束见 LICENSE、NOTICE 和 licenses/ 中的上游许可。

该仓库是英文驾驶指令解析的运行时权重，包含 1.1.0 多任务分类器和 1.2.0 组合语义扩展。

该模型不是标准单头 AutoModelForSequenceClassification。Hugging Face 仓库中的 model.safetensors 是 ModernBERT backbone，运行完整解析器还必须加载 multitask_heads.pt、semantic_token_head.pt、配置文件和项目代码。不要使用普通 pipeline("text-classification") 代替项目解析器。

训练配置

• Backbone：ModernBERT-base
• 硬件：RTX 5090、BF16、CUDA/SM120
• 任务：动作、状态、类别、紧急度、方向、速度变化六头多任务分类，以及实体/关系 token 分类
• 语料：662,700 条英文伪标签，按规范化文本分组切分为 70%/20%/10%
• 第一阶段：1 epoch，学习率 3e-5
• 第二阶段：1 epoch，学习率 1e-5
• 校准：仅使用 132,540 条验证集逐类选择动作和方向阈值

最终结果

66,270 条独立测试集：

1,000 条端到端解析中，动作 exact match 为 99.30%，P95 解析时延为 12.97 ms。

所有上述准确率均是对伪标签教师的一致率，不是人工金标准准确率、真实道路准确率或安全认证结果。

1.2.0 组合语义扩展冻结 ModernBERT backbone，在 3,288 条训练样本上训练实体/关系 token 头；1,065 条验证样本的最佳 token-F1 为 99.49%。由 175 条样本组成的组合语义开发回归集在规则校准后达到 100% 图结构 exact match，P95 端到端解析时延为 87.02 ms。该结果用于开发回归闭环，不代表独立真实道路泛化性能。

文件

下载

hf download UNIC0RN-Zhu/modernbert-drive-command-base \
  --local-dir ./models/modernbert-drive-command-base

或在 Python 中下载：

from huggingface_hub import snapshot_download

model_dir = snapshot_download(
    repo_id="UNIC0RN-Zhu/modernbert-drive-command-base",
    local_dir="./models/modernbert-drive-command-base",
)

运行

完整解析器位于 ZhuShanzhe/LMM-in-AutoDrive/structured_command_parser：

from huggingface_hub import snapshot_download

from structured_command_parser.src.modernbert_parser import (
    ModernBertEnglishIntentParser,
)

model_dir = snapshot_download(
    repo_id="UNIC0RN-Zhu/modernbert-drive-command-base",
    local_dir="./models/modernbert-drive-command-base",
)

parser = ModernBertEnglishIntentParser(
    model_dir,
    device="cuda",
)
parser.warmup()

document = parser.parse(
    "Slow down and stop before the red truck."
)

在线链路必须在接受请求前调用 warmup()，并保留规则短路、结构校验、语义对齐和下游安全门。

输出范围

解析器输出结构化 DrivingIntent，包括：

• 规范化文本；
• 原子动作与顺序关系；
• 方向、速度变化和紧急度；
• 目标实体描述；
• 条件、触发器和约束；
• 解析状态、置信度、缺失槽位和警告。

模型不负责视觉实体最终落地、风险决策、轨迹规划或车辆控制。目标描述必须由下游语义对齐模块约束到实际候选实体。

校验

cd ./models/modernbert-drive-command-base
sha256sum -c SHA256SUMS

已发布权重的 SHA256：

55b0683be1d75355a69720bc30b900e171579f7f1fe345c710dd05e14d5d7af9  model.safetensors
fca6481f3afcf0cd3a9d9d99952655556c443e7ab3178706e77014c17e4cba8d  multitask_heads.pt
ec7765685d5acb46e4a7a9f23837212f17092074f90fafcbc9f1a41151995f82  semantic_token_head.pt

许可与用途限制

本模型基于 Apache-2.0 的 answerdotai/ModernBERT-base，并使用 Talk2Car 与 SimLingo 文本生成训练标签。Talk2Car 数据采用 CC BY-NC-SA 4.0，SimLingo 采用自定义非商业许可，因此整个微调模型必须标记为 license: other，不能重新声明为 Apache-2.0、MIT 或其他更宽松许可证。

使用者必须自行阅读并遵守 LICENSE、NOTICE 与 licenses/ 中的全部上游条款。本模型不构成自动驾驶安全认证。