#robot-learning

共收录 1 条相关安全情报。

← 返回所有主题
推荐 5.5
Conf: 50%
👥 作者: Ethan Rathbun, Ahmed Agha, Saaduddin Mahmud, Christopher Amato, Alina Oprea, Eugene Bagdasarian

该论文研究了世界模型(world models)在机器人学习管道中的安全性问题。世界模型作为一种高效的数据生成和仿真工具,正被越来越多地集成到机器人训练流程中,但本文证明了世界模型引入了一种隐蔽且有效的数据投毒攻击入口。与传统的直接向训练数据注入危险轨迹的方法不同,作者提出的新型攻击向看似安全的远程操作数据中注入恶意提示或过渡动态,这些恶意数据只有在通过世界模型处理时才会激活,从而生成合成危险轨迹,最终导致训练出不安全或被篡改的机器人策略。攻击在动作条件世界模型和文本条件世界模型上均得到验证,包括对下游深度强化学习策略的端到端后门攻击,以及视觉-语言-动作(VLA)场景的概念验证。该研究突显了世界模型在机器人学习供应链中的脆弱性,并呼吁开发更安全的模型以及重新评估其集成方式。适合机器人安全、对抗性机器学习和系统安全领域的研究人员阅读。

💡 推荐理由: 世界模型作为新兴组件,此前未被充分认识其安全风险;本文揭露的新型投毒攻击隐蔽性强、后果严重,直接威胁机器人策略的可靠性与安全性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)