#defense-security

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Hanrui Wang, Ruihao Zheng, Shuo Wang, Isao Echizen, Xingbo Dong, Zhe Jin

该论文揭示了鲁棒性优化防御(如对抗训练和对抗净化)中存在一种新的安全风险:共享脆弱性。尽管这些防御方法在单独评估时能显著提升模型对对抗样本的鲁棒性,但一旦某一代表性防御被有效攻破,整个同类防御家族可能面临暴露。为了区分真正的可迁移性、失真导致的退化以及复杂攻击的算法增益,作者引入了更严格的仅迁移(transfer-only)协议,并设计了一种简单的自适应攻击 PGDTransfer。此外,他们提出了对抗敏感性图(Adversarial Sensitivity Maps, AdvSMs),用于可视化和量化超过可微分类器的共享对齐,包括随机和非可微防御。实验覆盖了对抗训练的分类器、基于净化的防御以及具有鲁棒视觉编码器的大型视觉语言模型(LVLMs)。结果表明,在每个鲁棒性家族内部存在自然的可迁移性,即使用简单的 PGD 风格优化即可实现迁移,而无需专门的可迁移性攻击设计。风险在净化防御中尤为严重:在 ε=4/255 下,PGDTransfer 在基于滤波、压缩和扩散的净化器上平均迁移攻击成功率达到 80.4%,表明净化防御可能不再提供可靠保护。随着攻击技术的进步,当前更强大的鲁棒性家族也可能面临相同风险。因此,未来防御应将脆弱性多样性和迁移隔离作为安全目标,而非仅优化个体鲁棒性。

💡 推荐理由: 该研究首次系统性地揭示鲁棒性优化防御可能因共享脆弱性而整体失效,颠覆了单纯堆叠鲁棒性指标的防御思路,对安全社区设计新一代不可迁移、异构化的防御策略具有重要警示意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)