#spectral-analysis

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Tianyi Wang, Zhenghao Gao, Shengjie Xu

本文提出一种名为 Season 的频谱感知正交梯度细化框架,用于提升基于迁移的对抗样本攻击在异构模型间的迁移性。研究背景是:卷积神经网络(CNN)偏向于利用局部纹理特征,而视觉Transformer(ViT)依赖全局形状特征,导致在CNN上生成的对抗样本迁移到ViT等架构时攻击成功率显著下降。Season 在白盒替代模型上生成针对黑盒目标模型的 L-infinity 对抗扰动,其核心思路是将每次梯度更新分解为低频分支(捕捉结构线索)和高频分支(捕捉纹理线索)。通过低显著性引导机制,将高频能量重新分配到图像背景区域,从而保护ViT所依赖的前景结构。随后,利用正交投影迫使纹理更新位于结构方向的互补子空间,以缓解特征干扰。Season 是一种无需训练、即插即用的包装模块,可直接增强八种现有的梯度稳定化和输入增强攻击方法,而不修改其核心逻辑。在 ImageNet 数据集上,针对八个不同的CNN、ViT和MLP目标模型,Season 在统一协议下使迁移攻击成功率平均提升6.6个百分点,最高提升16.0个百分点。本文主要贡献在于提出一种模型无关、计算开销小的通用增强框架,揭示了跨架构迁移中频谱与正交性的作用。适合对抗攻击与防御研究者、模型鲁棒性评测人员以及安全厂商的红队测试工程师阅读。

💡 推荐理由: 对抗样本迁移性是评估模型鲁棒性的关键维度,Season 揭示了跨架构攻击失败的结构性原因,并提供通用增强方法,有助于防御方理解黑盒攻击能力边界,改进模型集成与防御策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mohammad Partohaghighi, Roummel Marcia

本文提出了一种名为 SMA-DP-SGD(Spectral Memory-Aware Differentially Private Stochastic Gradient Descent)的新方法,旨在改进差分隐私深度学习中的效用问题。标准的差分隐私随机梯度下降(DP-SGD)通过对每个样本梯度进行裁剪并添加高斯噪声来保证隐私,但其高方差的更新会导致在困难数据集上的模型效用下降。SMA-DP-SGD 引入了一个基于历史私有化噪声释放的分数记忆分支,利用受 WeightWatcher 启发的谱幂律指数来提供分组层面的可靠性信号,并逐层实例化以调整衰减率和有效记忆深度。该方法通过私有历史对齐、范数匹配和预热激活来稳定记忆贡献。隐私保证是透明的:在给定私有释放历史条件下,记忆分支是固定的,唯一依赖于新数据的项是当前裁剪后的梯度之和乘以固定系数 β。因此,SMA-DP-SGD 保持了清晰的条件敏感度结构,并在 β=1 时精确恢复分组 DP-SGD。实验在 CIFAR-100、CIFAR-10 和 MNIST 上进行,结果表明该方法在多个差分隐私优化基准上取得了具有竞争力或更优的准确率,尤其在 CIFAR-100 和 CIFAR-10 上提升最大。CIFAR-10 的消融实验显示 β 控制着隐私-效用的权衡轨迹,谱和记忆诊断证实了可控的短至中等有效记忆深度以及较小的记忆分支占比。运行时分析表明,该方法在 CIFAR-10 实现中比 DP-SGD 增加了约 2.94 倍的开销,揭示了自适应私有记忆与计算成本之间的实际权衡。

💡 推荐理由: 差分隐私深度学习在实用化中面临效用损失挑战,本文通过引入谱感知记忆机制,在不牺牲隐私保证的前提下显著提升了模型精度,为隐私保护机器学习提供了新的优化思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)