该论文关注具身智能场景下视觉-语言-动作(Vision-Language-Action, VLA)模型的安全性。VLA 模型将视觉感知、语言指令理解与动作生成统一到端到端学习框架中,使机器人能够根据自然语言指令直接完成抓取、摆放等操作任务,近年来成为机器人操作领域的主流范式。但作者指出,这类模型需要直接与物理世界和人类交互,一旦决策被干扰,后果可能是物理层面的、不可逆的甚至灾难性的,因此其安全性必须被优先评估。论文提出的核心威胁是“通用对抗物体”(Universal Adversarial Object):一个表面纹理经过优化设计的球体,只要被放置在机器人视野范围内,即可显著降低任务成功率,而无需接触机器人系统或篡改软件。为解释这种失效的成因,作者提出一个多层次攻击框架,分别针对轨迹规划、任务执行和动作控制三个层级同时施加干扰,从而在感知—规划—执行的整条链路上制造累积误差。实验覆盖仿真环境与真实机器人平台两类设置,选取两个具有代表性的 VLA 模型 Pi0 与 RDT 进行评测。结果显示,在视野中出现该对抗物体后,两个模型的平均任务成功率下降 31.2% 至 39.9%;在复杂任务场景中,成功率进一步跌至接近零。论文的贡献在于:首次系统性地将通用对抗扰动从数字图像域迁移到机器人物理工作空间,证明单一静态物体即可对多类 VLA 模型构成可迁移、无需实时优化的持续性威胁;同时给出跨层级失效分析框架,为后续 VLA 鲁棒性评测与防御研究提供了可复用的实验范式。适合具身智能、机器人安全、多模态模型鲁棒性方向的研究者与工程团队阅读。
💡 推荐理由: VLA 模型正被部署到真实机械臂与移动机器人中,而本研究表明仅靠视野内一个经过纹理优化的球形物体,就能让 Pi0、RDT 等代表性模型的成功率下降三成以上并在复杂任务中近乎归零。这提示机器人安全评估不能只覆盖软件与网络层,还必须纳入物理环境与视觉输入的对抗鲁棒性。
🎯 建议动作: 研究跟进:将物理对抗物体纳入内部具身智能模型的鲁棒性评测用例,并跟踪该团队后续的防御与基准工作