#group-based robustness

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Weiran Lin, Keane Lucas, Neo Eyal, Lujo Bauer, Michael K. Reiter, Mahmood Sharif

该论文针对机器学习模型面对逃避攻击时的鲁棒性评估问题,指出现有的有目标鲁棒性和无目标鲁棒性指标无法准确反映现实场景中的威胁。具体来说,在许多实际应用中,攻击者可能只关心将某类源样本误导至某类目标样本,而非任意类别。为此,论文正式定义了一种新的鲁棒性指标——基于分组的鲁棒性(group-based robustness),该指标能够衡量模型在特定源类集到特定目标类集的攻击场景下的表现,补充了传统指标的不足。实验表明,该指标能在传统指标不适用的情况下有效区分模型对不同威胁模型的脆弱性。为了实现高效准确的评估,论文提出了两种新的损失函数和三种新的攻击策略。实验证明,使用新损失函数可以在保持相似成功率的同时,将计算复杂度降低与目标类别数相同的倍数;新攻击策略相比暴力搜索方法可节省高达99%的时间。最后,论文提出一种防御方法,将基于分组的鲁棒性提升多达3.52倍。该研究为模型鲁棒性评估提供了更贴近实际威胁的框架,适合机器学习安全研究人员、AI系统开发者以及需要部署对抗环境下的模型工程师阅读。

💡 推荐理由: 该论文提出的分组鲁棒性更贴合实际攻击场景,能帮助防御者精准评估模型在特定威胁下的表现,并为定制化防御提供理论依据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)