Signal-based Model Access Risk Analysis for AI System Operations Security
本文针对AI系统在安全、金融、医疗等领域广泛部署后所面临的模型逃逸攻击问题，指出传统基于攻击者知识（白盒、灰盒、黑盒）的分类方法忽视了不同部署接口实际暴露信息信号（如仅输出最终决策、置信分数、中间表示或完整参数）对攻击能力的影响。作者提出了
#evasion-attacks
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题本文针对AI系统在安全、金融、医疗等领域广泛部署后所面临的模型逃逸攻击问题，指出传统基于攻击者知识（白盒、灰盒、黑盒）的分类方法忽视了不同部署接口实际暴露信息信号（如仅输出最终决策、置信分数、中间表示或完整参数）对攻击能力的影响。作者提出了