#vision-language-action-models

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Stefan Bühler, Mark Schutera

该论文研究了针对开源机器人视觉语言动作模型(VLA)的数据投毒攻击,特别是触发词(trigger-word)投毒。作者指出,当前开源机器人生态系统在社区贡献的数据集上存在信任假设,而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门,使机器人在接收到特定触发词时失效。论文以smolVLA模型为测试对象,在LeRobot平台的真实拾放(pick-and-place)任务上进行实验,设置了三种中毒比例(1/320、3/320、10/320),并评估了不同触发词位置(前置、中置、后置)的影响。实验结果显示:仅需3个中毒片段(episode)即可实现完全拒绝服务(DoS),所有触发词条件下的成功率降至0.0±0.0%,机器人锁定在固定关节配置,不执行任何任务运动;而在正常提示下,模型保持约50%的成功率,表明攻击具有隐蔽性。即使仅1个中毒片段,成功率也降至6.7±6.7%,机器人虽有运动但无法完成任务。攻击还能泛化到中置和后置触发词位置,尽管训练时仅使用前置触发。该研究证明此威胁是实际可行、低成本且隐蔽的,因此需要将数据集来源的可信性视为开源机器人生态中的首要安全问题。

💡 推荐理由: 首次实践验证对开源机器人VLA模型的数据投毒攻击,证明其低成本、高隐蔽性及严重后果(完全拒绝服务),对机器人安全社区具有重要警示意义。

🎯 建议动作: 研究跟进,关注数据集来源验证和投毒检测技术

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)