#scene-robustness

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xiaoyong, Yuan, Lan, Zhang

论文《AdvScene: Rethinking Adversarial Patch Evaluation Through Scene Robustness》重新审视了对抗补丁(adversarial patch)的评估方法。对抗补丁是附着在真实物体上的物理图案,旨在误导AI视觉系统(如目标检测器)。现有评估主要基于固定图像基准或可控仿真器,但前者缺乏场景多样性,后者无法反映真实场景的复杂性。作者提出“场景鲁棒性”(scene robustness)概念,指补丁部署后在真实环境中随视角、距离和场景条件变化仍保持有效的能力。为此,他们设计了AdvScene框架,一种基于场景重建的评估方法。核心挑战在于:攻击通常仅在单一锚定视角下定义,而评估需要跨视角保真地表示补丁。作者将其形式化为约束提升问题,提出“对抗补丁到场景嵌入”(APSE)方法,通过解决跨视角歧义、保留攻击关键外观、施加局部性、目标表面附着和跨视角一致性约束,实现补丁在场景中的准确嵌入。使用真实世界物理数据验证,并对现有对抗补丁进行全面评估。结果表明,AdvScene揭示了攻击有效性随场景变化的显著差异,而现有图像中心或仿真基评估无法捕获这些差异。本文适合AI安全研究人员、对抗性攻击防御开发者及计算机视觉鲁棒性研究者阅读。

💡 推荐理由: 对抗补丁的真实风险取决于其在多变环境中的持久性。AdvScene提供了首个能量化场景鲁棒性的框架,帮助安全团队更准确地评估物理对抗攻击的威胁边界,避免因评估维度不足而产生的误判。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)