具身智能体(embodied agent)在执行任务前通常会由任务规划器生成多步计划,而子任务之间的依赖关系以及与物理环境的交互,可能在执行过程中叠加出单步看起来无害、整体却具备物理危险性的组合风险。论文指出,现有防护手段存在明显盲区:通用的安全护栏(guardrail)主要围绕语义层面的有害内容判别,而具身安全检测器往往只对单个子任务做孤立评估,二者都无法刻画“整条计划在当前环境下是否物理安全”这一问题。为此,作者提出 PlanGuard,被其称为首个在执行前对完整多步计划进行物理安全评估的检测器,即把整条计划与当前环境状态联合作为输入,输出计划层面的安全判定。为支撑训练与评测,作者构建了 Multi-Step Plan Safety(MSP-Safe)数据集,流程包括配对任务构造(paired task construction)、使用多种不同规划器生成计划、并由三名评判者(three judges)进行安全标注,从而覆盖多样化的规划风格与安全/不安全对照样本。训练方面,作者先采用面向任务的监督微调(task-oriented SFT)在 MSP-Safe 上建立基础的计划安全评估能力,但发现可直接实时部署的小模型与能力更强、成本更高的大模型之间仍存在显著差距。为此提出 STAC-OPD(Strong-Teacher Adaptive Compensation for On-Policy Distillation),在学生模型自身的 on-policy 轨迹上提供自适应的强教师监督:一方面做来自微调后强教师的 token 级分布迁移,另一方面做概率路由的序列级补偿——当学生模型给出的目标与参考安全决策一致时保留学生自生成目标,否则使用教师重构的目标。实验上,PlanGuard-2B 在所有测试子集上取得平均 87.15% 准确率与 87.21% F1,说明在紧凑模型规模下也能有效完成整条计划的物理风险检测。作者表示代码与数据集将公开。
💡 推荐理由: 具身智能体正从实验室走向真实物理场景,整条多步计划的组合风险此前缺乏执行前检测手段。该工作给出了数据集、评测协议与可实时部署的 2B 小模型方案,为机器人/具身系统的执行前安全门禁提供了可复用基线。
🎯 建议动作: 研究跟进:等待代码与 MSP-Safe 数据集公开后纳入内部评估,判断是否可作为具身/多步规划智能体的执行前安全门禁组件。