本文提出了一种名为 ARMOR(Adversarial Robustness with Manifold-Oriented Training)的新型防御方法,旨在解决空中目标检测模型在物理世界中对通用对抗性补丁的脆弱性,同时应对训练数据稀缺的实际约束。空中目标检测广泛应用于现实场景,但模型容易受到物理可实现的通用对抗性补丁的攻击,导致漏检。以往对抗性鲁棒性研究通常假设训练数据充足(数万张图像),但实际部署场景中,空中图像的收集和标注成本高昂,通常仅有数百张图像可用。ARMOR 将流形导向对抗训练(OMAT)的核心思想扩展到低数据场景。OMAT 通过建模数据流形(即捕获数据相关特征的紧凑结构)来学习和增强特征鲁棒性,但其依赖大数据量的生成模型训练和对抗训练。相比之下,ARMOR 采用数据高效的方法,重复利用检测任务已有的标签:它通过(i)掩蔽图像背景以保留与物体相关的特征,以及(ii)在物体上注入随机补丁以提高特征鲁棒性。实验使用物理可实现的对抗补丁,在低数据条件下评估了免查询迁移攻击和防御感知攻击。结果表明,ARMOR 在保持超过 0.90 模型置信度的强干净性能的同时,与最先进的防御相比,将对抗鲁棒性提升了高达 0.32 的模型置信度。使用打印补丁的物理实验证实这些增益在真实部署中依然有效。总体而言,ARMOR 将基于流形的训练见解转化为在训练数据稀缺情况下防御目标检测模型的方法。该研究对计算机视觉安全、对抗性机器学习以及资源受限环境下的模型鲁棒性具有重要参考价值,适合关注防御性人工智能安全的研究人员和工程师阅读。
💡 推荐理由: 空中目标检测部署中数据稀缺且易受物理对抗补丁攻击,ARMOR 提供了一种数据高效的防御新思路,对实际安全应用有直接参考价值。
🎯 建议动作: 研究跟进