#influence-function

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zirui Huang, Yunlong Mao, Sheng Zhong 0002

本文标题为'UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage',提出了一种名为UBA-Inf的新型后门攻击方法。根据标题推测,该攻击利用机器学习中的'遗忘'(unlearning)机制作为激活后门的触发器,即当模型执行数据删除或遗忘操作时,预先埋藏的后门被激活,导致模型在正常推理时表现出恶意行为。同时,攻击者采用'影响力驱动'(influence-driven)的伪装策略,利用影响力函数等工具生成与正常样本难以区分的触发器,以绕过传统的后门检测。该研究将攻击与模型生命周期中的隐私合规环节绑定,尤其针对必须支持'被遗忘权'的场景(如 GDPR 等法规驱动的数据删除需求),揭示了机器遗忘功能可能引入新的安全攻击面。由于仅提供标题,具体的技术细节(如攻击流程、触发条件、实验设置)尚不明确,但该方向具有重要的学术价值和现实意义,可启发后续对模型遗忘安全性的深入研究。该论文适合AI安全研究员、模型部署工程师,以及关注隐私保护与合规的团队阅读,以便提前防范此类新型攻击。

💡 推荐理由: 随着隐私法规要求模型支持'被遗忘权',机器遗忘正成为AI系统必选功能。UBA-Inf揭示这一功能可能被攻击者利用作为后门触发器,为模型生命周期安全带来全新挑战,值得安全从业者提前关注和布局防护。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ali Mahdavi, Azadeh Zamanifar, Amirfarhad Farhadi, Omid Kashefi

该论文提出了一种高效的联邦学习因果遗忘方法 HF-KCU,用于在不完全重训练的情况下移除特定客户的数据贡献,以满足隐私法规(如 GDPR)的数据删除要求。传统方法从头重训练计算成本极高(O(d^3)),而 HF-KCU 通过 Krylov 子空间中的共轭梯度迭代近似影响函数,将复杂度降至 O(kd)(k<<d)。其核心创新包括:(1) 因果加权机制,仅让持有被删除数据的客户端接收参数更新,避免对其他客户端产生虚假影响;(2) 能够处理有界对抗性扰动(对 Hessian 和梯度的扰动),在现实威胁模型下提供优雅的性能退化。实验在 CIFAR-10、MNIST、Fashion-MNIST 上使用 ResNet-18、SimpleCNN 和 ViT-Lite 架构验证:在 CIFAR-10 上,HF-KCU 比重训练快 47.75 倍,测试精度仅下降 0.60%(71.16% vs 71.76%);成员推理攻击在遗忘集上的成功率为 0.499,与重训练模型一致,证明有效恢复了隐私。论文还提供了收敛性保证,证明 Krylov 近似误差随 O((κ^(1/2)-1)/(κ^(1/2)+1)) 衰减(κ 为 Hessian 条件数)。该方法的精确性和效率使其适用于异步删除请求且计算预算受限的生产联邦学习系统。

💡 推荐理由: 联邦学习需频繁响应用户数据删除请求,但重训练代价高昂。HF-KCU 以近乎无损的精度和数十倍加速实现高效遗忘,且能抵抗对抗性扰动,为合规性提供了切实可行的工程方案。

🎯 建议动作: 研究跟进,评估是否可集成到现有联邦学习框架中。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)