--- license: other license_name: simlingo-talk2car-non-commercial-research license_link: https://huggingface.co/UNIC0RN-Zhu/modernbert-drive-command-base/blob/main/LICENSE base_model: answerdotai/ModernBERT-base library_name: transformers pipeline_tag: feature-extraction language: - en tags: - modernbert - autonomous-driving - structured-output - compositional-semantics - research-only --- # ModernBERT Drive Command Parser > 仅限非商业学术、科研、教学和个人实验,必须免费提供;不得用于真实车辆或机器人运行,也不得用于可能造成人身伤害或财产损失的高风险用途。CARLA 仅用于非商业离线仿真研究和评测。完整约束见 `LICENSE`、`NOTICE` 和 `licenses/` 中的上游许可。 该仓库是英文驾驶指令解析的运行时权重,包含 1.1.0 多任务分类器和 1.2.0 组合语义扩展。 该模型不是标准单头 `AutoModelForSequenceClassification`。Hugging Face 仓库中的 `model.safetensors` 是 ModernBERT backbone,运行完整解析器还必须加载 `multitask_heads.pt`、`semantic_token_head.pt`、配置文件和项目代码。不要使用普通 `pipeline("text-classification")` 代替项目解析器。 ## 训练配置 - Backbone:ModernBERT-base - 硬件:RTX 5090、BF16、CUDA/SM120 - 任务:动作、状态、类别、紧急度、方向、速度变化六头多任务分类,以及实体/关系 token 分类 - 语料:662,700 条英文伪标签,按规范化文本分组切分为 70%/20%/10% - 第一阶段:1 epoch,学习率 `3e-5` - 第二阶段:1 epoch,学习率 `1e-5` - 校准:仅使用 132,540 条验证集逐类选择动作和方向阈值 ## 最终结果 66,270 条独立测试集: | 指标 | 结果 | |---|---:| | 动作 exact match | 98.70% | | 动作 micro-F1 | 97.78% | | 状态准确率 | 99.39% | | 类别准确率 | 99.15% | | 紧急度准确率 | 99.91% | | 方向 exact match | 99.75% | | 速度变化准确率 | 99.82% | 1,000 条端到端解析中,动作 exact match 为 99.30%,P95 解析时延为 12.97 ms。 所有上述准确率均是对伪标签教师的一致率,不是人工金标准准确率、真实道路准确率或安全认证结果。 1.2.0 组合语义扩展冻结 ModernBERT backbone,在 3,288 条训练样本上训练实体/关系 token 头;1,065 条验证样本的最佳 token-F1 为 99.49%。由 175 条样本组成的组合语义开发回归集在规则校准后达到 100% 图结构 exact match,P95 端到端解析时延为 87.02 ms。该结果用于开发回归闭环,不代表独立真实道路泛化性能。 ## 文件 | 文件 | 说明 | |---|---| | `model.safetensors` | ModernBERT backbone 权重 | | `multitask_heads.pt` | 六个多任务分类头 | | `semantic_token_head.pt` | 1.2.0 实体/关系 token 头 | | `semantic_token_head_metrics.json` | token 头训练与验证指标 | | `inference_config.json` | 验证集校准阈值 | | `label_schema.json` | 六类输出标签顺序 | | `training_summary.json` | 训练配置和验证结果 | | `test_metrics_calibrated.json` | 最终独立测试结果 | | `SHA256SUMS` | 运行时文件校验和 | | `LICENSE` | 本模型研究用途分发条件 | | `NOTICE` | 上游模型、数据集归属与强制署名 | | `licenses/` | ModernBERT、SimLingo 和 Talk2Car 许可副本 | ## 下载 ```bash hf download UNIC0RN-Zhu/modernbert-drive-command-base \ --local-dir ./models/modernbert-drive-command-base ``` 或在 Python 中下载: ```python from huggingface_hub import snapshot_download model_dir = snapshot_download( repo_id="UNIC0RN-Zhu/modernbert-drive-command-base", local_dir="./models/modernbert-drive-command-base", ) ``` ## 运行 完整解析器位于 `ZhuShanzhe/LMM-in-AutoDrive/structured_command_parser`: ```python from huggingface_hub import snapshot_download from structured_command_parser.src.modernbert_parser import ( ModernBertEnglishIntentParser, ) model_dir = snapshot_download( repo_id="UNIC0RN-Zhu/modernbert-drive-command-base", local_dir="./models/modernbert-drive-command-base", ) parser = ModernBertEnglishIntentParser( model_dir, device="cuda", ) parser.warmup() document = parser.parse( "Slow down and stop before the red truck." ) ``` 在线链路必须在接受请求前调用 `warmup()`,并保留规则短路、结构校验、语义对齐和下游安全门。 ## 输出范围 解析器输出结构化 `DrivingIntent`,包括: - 规范化文本; - 原子动作与顺序关系; - 方向、速度变化和紧急度; - 目标实体描述; - 条件、触发器和约束; - 解析状态、置信度、缺失槽位和警告。 模型不负责视觉实体最终落地、风险决策、轨迹规划或车辆控制。目标描述必须由下游语义对齐模块约束到实际候选实体。 ## 校验 ```bash cd ./models/modernbert-drive-command-base sha256sum -c SHA256SUMS ``` 已发布权重的 SHA256: ```text 55b0683be1d75355a69720bc30b900e171579f7f1fe345c710dd05e14d5d7af9 model.safetensors fca6481f3afcf0cd3a9d9d99952655556c443e7ab3178706e77014c17e4cba8d multitask_heads.pt ec7765685d5acb46e4a7a9f23837212f17092074f90fafcbc9f1a41151995f82 semantic_token_head.pt ``` ## 许可与用途限制 本模型基于 Apache-2.0 的 `answerdotai/ModernBERT-base`,并使用 Talk2Car 与 SimLingo 文本生成训练标签。Talk2Car 数据采用 CC BY-NC-SA 4.0,SimLingo 采用自定义非商业许可,因此整个微调模型必须标记为 `license: other`,不能重新声明为 Apache-2.0、MIT 或其他更宽松许可证。 使用者必须自行阅读并遵守 `LICENSE`、`NOTICE` 与 `licenses/` 中的全部上游条款。本模型不构成自动驾驶安全认证。