#decision-based-attack

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Fei Yuan, Yantian Shen, Qingyuan Yu, Yi Chen, Binghui Wang, Hongbo Yu, Anyu Wang, Xiaoyun Wang

该论文研究的是深度神经网络在黑盒设定下的定向对抗攻击问题,属于对抗机器学习领域兼具理论难度与工程意义的课题。背景是:DNN 对微小扰动敏感,而攻击按信息可见性可分为白盒与黑盒;黑盒中又以 decision-based(仅返回 top-1 标签)的定向攻击最为困难——攻击者既看不到梯度与置信度,又必须让模型在扰动受约束的前提下预测一个事先指定的目标类别。作者指出现有方法的主要瓶颈出现在扰动精修之前的初始化阶段:必须先找到一个能够把样本推入目标类决策区域的可行方向,而这一步往往消耗掉绝大部分查询预算,导致在低查询预算下成功率极低。为此论文提出 GuidedRay,一种基于多样性引导方向发现的定向 decision-based 攻击框架。其设计建立在两个观察之上:其一,目标类别的参考样本能够提供以目标为条件的方向先验,使搜索不再是盲目的;其二,候选样本越多样,命中某个真正指向目标区域的方向的概率就越高,从而避免在单一方向上反复浪费查询。方法上,GuidedRay 从一个或多个目标类参考样本出发生成多个风格各异的候选样本,再用一次查询即可完成的 Fast Test 快速筛选这些候选所诱导的符号方向,筛掉明显不可行的候选;一旦确认存在可行方向,就用 Ray Search 沿着该方向不断缩减到决策边界的半径,从而在有限的扰动预算内完成定向攻击,同时把查询开销集中于最有希望的方向上。实验部分在 CIFAR-10、CIFAR-100 与 ImageNet 三个数据集上展开,在 500 到 5000 四个查询预算档位上与五种当前最优的 decision-based 攻击进行对比,GuidedRay 在所有档位均取得更好的表现,尤其在初始化阶段的方向发现效率上优势显著,说明查询预算越紧张收益越明显;此外,面对采用对抗训练或 TRADES 加固的模型,它在四个查询预算下同样取得最高的攻击成功率,表明该方向先验与多样性策略对鲁棒模型也能奏效。整体而言,论文的核心贡献在于把黑盒定向攻击的瓶颈从“扰动精修”重新定位到“方向发现”,并给出了一个查询高效的工程化方案,适合对抗鲁棒性研究者、模型安全评估与红队人员阅读。

💡 推荐理由: 该工作说明仅凭 top-1 标签、在数百次查询的低预算下也能实现定向攻击,且对对抗训练与 TRADES 加固的模型依然有效。这意味着面向外部用户开放的模型推理接口在查询受限场景下的安全边界可能被高估,鲁棒性评测需要补充低查询预算的定向攻击基准,而不是只测白盒或高预算场景。

🎯 建议动作: 研究跟进:将其纳入内部对抗鲁棒性评估的方法清单,针对对外暴露的模型接口补充低查询预算定向攻击的基准测试与查询行为监测规则。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)