#poisoning-defense

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Torsten Krauß, Alexandra Dmitrienko

联邦学习(FL)通过保护数据隐私、降低通信成本以及利用多样化的数据源提升模型性能,从而增强了分布式机器学习。然而,FL面临非定向投毒攻击和定向后门攻击等漏洞,对模型完整性和安全性构成挑战。由于后门攻击的隐蔽性,防御后门尤其困难。现有的缓解技术虽然有效,但往往忽视了现实的攻击者和多样化的数据分布。本文提出MESAS,一种针对自适应攻击者的联邦学习投毒防御方法。MESAS设计了一种新的检测机制,能够识别并过滤恶意更新,同时保持对非恶意更新的容忍度。通过在多个基准数据集上的实验,作者展示了MESAS在应对多种投毒攻击(包括后门攻击)时的优越性,特别是在自适应攻击者存在的情况下仍能保持鲁棒性。该方法在不牺牲模型准确率的前提下显著降低了攻击成功率。适用于联邦学习安全研究人员、系统设计者和部署者。

💡 推荐理由: 联邦学习在实际部署中面临严重的投毒攻击威胁,现有防御多忽略自适应攻击者。MESAS针对这一缺口,提供了更现实的防御方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Shixiong Jiang, Taozheng Zhu, Fanxin Kong

离线安全强化学习(Offline Safe RL)能够在没有在线交互的情况下学习策略,因此适用于机器人等安全关键系统。然而,其依赖静态数据集的特点使其容易遭受数据投毒攻击,攻击者注入恶意样本以破坏安全性并导致不安全策略行为。本文提出一种新的学习范式——安全反学习(Safe-RULE),作为防御框架,无需从头重新训练或访问原始训练环境即可消除投毒数据的影响。作者将反学习扩展至离线安全强化学习,在反学习过程中显式考虑任务性能和安全性约束。在多个安全强化学习基准任务上的实验表明,该方法能有效增强对数据投毒攻击的安全性能。核心贡献包括:定义了离线安全强化学习中的投毒防御问题;提出结合安全约束的反学习机制;实验验证了防御效果。适合关注AI安全、强化学习安全尤其是防御技术的研究人员阅读。

💡 推荐理由: 首次将反学习范式引入离线安全强化学习投毒防御,无需重新训练即可消除恶意数据影响,对提升机器人等安全关键系统的鲁棒性具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)