#certified-robustness

共收录 3 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Andrew C. Cullen, Paul Montague, Benjamin I. P. Rubinstein

本文针对随机平滑(Randomized Smoothing, RS)认证方法计算开销过大的问题,提出了一种基于元学习的早停框架。传统RS需要为每个输入进行数万次模型评估,且必须预先固定样本量,导致实际部署困难。作者设计了一个轻量级元学习器,为每张图像预测特定的先验分布,并将其注入到序列E过程中,从而在保持严格统计保证的前提下,将样本复杂度降低20倍。此外,该框架支持“随时有效性”(anytime-validity),可根据应用风险阈值动态调整计算资源分配,这是传统认证框架无法实现的资源分诊机制。实验表明,该方法在认证性能上与标准RS相当,同时大幅提升了效率,为实时安全关键部署提供了可行路径。

💡 推荐理由: 本工作显著降低了神经网络鲁棒性认证的计算成本,使实时安全部署成为可能,对依赖认证鲁棒性的安全系统(如自动驾驶、医疗AI)具有重要价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Aman Saxena, Jan Schuchardt, Yan Scholten, Stephan Günnemann

本文提出了一种基于差分隐私的原偶视角(primal-dual perspective)来证明机器学习模型对后门攻击的鲁棒性。后门攻击同时污染训练数据和测试数据,使得现有仅针对训练时或推理时单一阶段的随机平滑认证方法失效。作者将随机平滑与差分隐私中的隐私配置文件(privacy profiles)相结合,该配置文件提供了一种数值化方法来组合异构随机机制。由此得到的框架能够对复杂的组合机制进行紧致、模块化的端到端认证,同时可以利用现有差分隐私机制的分析结果。作者将该框架实例化到DP-SGD(差分隐私随机梯度下降)和深度分区聚合(Deep Partition Aggregation)并加入推理时平滑,推导出同时对抗训练时和后门注入、推理时触发器激活的联合鲁棒性保证。在MNIST和CIFAR-10上的实验表明,该方法能够有效认证模型在联合威胁模型下的鲁棒性。本文为使用组合机制认证复杂威胁模型下的鲁棒性提供了一个通用且原则性的框架。

💡 推荐理由: 后门攻击是AI安全的核心威胁,现有认证方法大多只针对单一阶段攻击。本文提出的联合认证框架填补了同时认证训练时和推理时攻击的空白,有助于构建更可信的AI系统。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Linyi Li 0001, Maurice Weber, Xiaojun Xu, Luka Rimanic, Bhavya Kailkhura, Tao Xie 0001, Ce Zhang 0001, Bo Li 0026

本文提出TSS(Transformation-Specific Smoothing)框架,旨在为机器学习模型提供针对语义变换(如旋转、模糊、平移等)的鲁棒性认证。现有认证方法主要针对L_p范数约束的扰动,而对语义变换的认证研究不足。TSS根据语义变换的特性将其分为两类:可解析变换(如高斯模糊)和差分可解析变换(如旋转),针对前者提出变换特定随机平滑策略,针对后者采用分层采样方法以处理插值误差。TSS结合一致性增强训练,实现了严格的鲁棒性认证。实验在十多种挑战性语义变换上进行,结果表明TSS显著优于现有方法,并且首次在大规模ImageNet数据集上取得非平凡的认证鲁棒性(例如,在±30°旋转攻击下实现30.4%的认证准确率)。此外,TSS对自适应攻击和未知图像损坏(如CIFAR-10-C、ImageNet-C)也具有鲁棒性。

💡 推荐理由: 该研究填补了语义变换鲁棒性认证的空白,为安全攸关的ML系统(如自动驾驶、医疗影像)提供了可证明的防御保障。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)