#3d-asset-poisoning

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Gengyang Xu, Dongwei Xiao, Yiteng Peng, Yanbo Dai, Ruochen Zhou, Shing-Chi Cheung, Xiaoyu Ji, Wenyuan Xu, Shuai Wang

本研究聚焦于「基于学习的机器人操作」(learning-enabled robotic manipulation)在真实部署前普遍依赖机器人仿真器进行策略训练与评估这一流程。作者首先指出,现有3D资产中存在一种被合法且广泛使用的「视觉—碰撞差距」(Visual–Collision Gap,V–C Gap):同一个3D资产内部包含两套彼此独立的几何表示——用于渲染的视觉网格(visual mesh)与用于物理交互计算的碰撞网格(collision mesh)。出于计算效率考虑,碰撞网格通常只是对真实形状的粗略近似,并不要求与视觉网格几何一致。作者证明这一差距构成了一个全新且可被实际利用的攻击面,并提出碰撞网格投毒(Collision Mesh Poisoning,CMP),这是首个通过3D资产供应链实施的、针对机器人操作的投毒攻击。在整个过程中,攻击者仅修改资产的碰撞网格,完全保持视觉网格及其他组件不变;因此使用被投毒资产训练与评估的策略在仿真中表现一切正常,但一旦部署到真实世界便会出现性能退化、任务失败,甚至造成物理安全风险。之所以此类资产能顺利流通,是因为当前3D资产审查实践主要覆盖恶意软件、版权与格式合规,并未检查视觉网格与碰撞网格之间的一致性,使被投毒资产可通过合法供应链渠道分发。作者进一步评估了若干现有防御手段,结果显示它们均不足以抵御CMP,说明需要专门设计的新防御机制。论文属于仿真到现实(sim-to-real)安全方向,适合机器人学习、仿真平台建设与AI供应链安全的研究者和工程师阅读。

💡 推荐理由: 揭示了机器人策略训练所依赖的3D资产供应链中一个被长期忽视的信任假设:视觉与碰撞几何不一致可被滥用,导致仿真表现正常而真机失效或产生物理安全风险。对机器人、具身智能与仿真资产供应链安全具有直接警示意义,且现有防御被证明不足。

🎯 建议动作: 纳入内部评估,并跟踪后续针对视觉—碰撞一致性校验的防御与检测研究

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)