#evasion-attacks

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Maria Mahbub, Steven Young, Amir Sadovnik, Edmon Begoli, Chris Rugenstein, Donald Coulter, Anthony Ayodele

本文针对AI系统在安全、金融、医疗等领域广泛部署后所面临的模型逃逸攻击问题,指出传统基于攻击者知识(白盒、灰盒、黑盒)的分类方法忽视了不同部署接口实际暴露信息信号(如仅输出最终决策、置信分数、中间表示或完整参数)对攻击能力的影响。作者提出了基于信号驱动的模型访问风险分类框架(SMART),该框架以部署场景为导向,根据AI系统返回信息信号的类型与丰富程度(从有限到充分)对攻击者访问级别进行精细化划分。在此框架下,文章系统梳理了从最低信息暴露(仅观察硬分类输出)到最高暴露(完全白盒)各层级上逃逸攻击的策略演变,分析了各层级下攻击者所能实现的能力边界(如扰动幅度、成功率、迁移性等)。该工作旨在帮助安全工程师、AI系统采购方和运营方理解不同部署配置所引入的实际风险,从而做出更安全的模型部署与第三方模型采购决策。本文属于概念性研究论文,尚未提供具体攻击实验或检测方法验证。

💡 推荐理由: 为AI系统运营安全提供了更贴合实际部署场景的风险分析视角,帮助安全从业者理解不同输出信号暴露下攻击能力的差异,从而针对性设计防御与控制措施。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)