#automl

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Qi-An Fu, Yinpeng Dong, Hang Su 0006, Jun Zhu 0001, Chao Zhang 0008

该论文提出了一种名为AutoDA的自动化决策型迭代对抗攻击方法。决策型攻击是黑盒对抗攻击的一种重要形式,攻击者只能通过模型的最终决策标签(如分类结果)来生成对抗样本,而无法访问模型内部结构或置信度分数。传统决策型攻击需要手工设计攻击算法,如迭代更新扰动方向,但手工设计耗时且难以达到最优。AutoDA将攻击算法设计自动化,利用强化学习或进化策略等方法自动搜索最优的迭代更新策略。具体地,AutoDA定义了一个搜索空间,包括步长、梯度估计方法、方向更新规则等组件,然后通过采样和优化来寻找性能最佳的攻击策略。在多个标准数据集(如ImageNet)和多种模型(如ResNet、DenseNet)上的实验表明,AutoDA自动发现的攻击策略在攻击成功率和查询效率上均优于现有手工设计的决策型攻击方法。该工作为对抗攻击领域提供了新的自动化视角,有助于更全面地评估模型的鲁棒性。

💡 推荐理由: 自动化攻击设计降低了黑盒攻击的门槛,可能被用于评估和突破实际系统中的AI模型,防守方需关注此类自动化攻击的发展。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)