#adversarial-patch

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Taifeng Liu, Yang Liu 0118, Zhuo Ma 0001, Tong Yang 0003, Xinjing Liu, Teng Li 0003, Jianfeng Ma 0001

该论文提出了一种名为L-HAWK的可控物理对抗补丁,旨在针对远距离目标进行有效攻击。现有的物理对抗补丁通常对攻击距离敏感,当目标距离较远时,补丁在图像中的尺寸变小,导致攻击效果显著下降。L-HAWK通过优化补丁的形状、颜色和纹理,并引入可控性机制,使得攻击者可以根据目标距离动态调整补丁参数,从而在长距离场景下仍能保持较高的攻击成功率。实验在多个数据集和真实场景下进行,包括人脸识别和车辆检测任务,结果表明L-HAWK在远距离(如10米以上)能够达到90%以上的攻击成功率,显著优于现有方法。此外,论文还分析了补丁的物理鲁棒性,在光照变化、角度倾斜等条件下仍能保持稳定。该研究为物理世界对抗攻击提供了新的思路,同时也为防御方提出了挑战。

💡 推荐理由: 远距离对抗攻击是物理世界AI安全的重要威胁,尤其影响安防摄像头、自动驾驶等长距离视觉系统。该论文揭示了现有防御的盲区,值得防御者关注。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jianan Feng, Jiachun Li, Changqing Miao, Jianjun Huang 0001, Wei You 0001, Wenchang Shi, Bin Liang 0002

本文提出一种对抗性补丁攻击的防御方法,核心思想是“以火攻火”,即通过向模型输入注入特制的防御性补丁来主动探测或抵消潜在的攻击补丁。作者设计了两种防御补丁:canary(金丝雀)和woodpecker(啄木鸟)。Canary补丁用于探测输入中是否存在攻击补丁,通过分析模型输出中与canary对应的检测结果是否异常来判断是否遭受攻击;Woodpecker补丁则直接抵消攻击补丁的效果,通过将其放置在可能受攻击的区域来扰乱攻击者的对抗性扰动。方法的关键在于:无需修改目标模型,仅通过预处理输入和后处理输出即可实现防御,因此易于部署且不影响模型效率。针对防御感知的适应性攻击,作者采用随机化的补丁注入模式,每次推理时随机选择补丁的位置和数量,使攻击者难以绕过。实验在多个目标检测模型和攻击方法上进行,结果表明该方法能有效检测和防御多种未知攻击,且引入的时间开销有限。即使在自适应攻击(攻击者知晓防御策略并针对性优化攻击)下,该方法仍表现出足够的鲁棒性。本文的主要贡献包括:提出了一种新颖的对抗式防御框架,设计了两种互补的防御补丁,以及通过随机化提升对适应性攻击的抵抗力。该工作适用于目标检测场景的安全加固,尤其适合需要平衡防护效果与部署成本的工业界应用。

💡 推荐理由: 这是一种新颖的对抗防御思路,不修改模型结构,通过主动注入防御性补丁来对抗攻击,对蓝队成员在目标检测系统防护中有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)