#poisoning-attacks

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Tianyue Chu, Álvaro García-Recuero, Costas Iordanou, Georgios Smaragdakis, Nikolaos Laoutaris

该论文提出了一种基于联邦学习(FL)的分布式分类器,用于检测包含敏感内容(如健康、政治信仰、性取向等类别)的URL。传统的集中式分类器存在隐私风险和数据集中问题,而联邦学习允许在本地数据上训练模型,仅共享模型更新,从而保护用户隐私。然而,联邦学习容易受到恶意用户的投毒攻击,他们可能通过传播错误的模型更新来降低良性用户的分类准确性。为此,论文开发了一种结合主观逻辑和基于残差的攻击检测的稳健聚合方案。通过理论分析、轨迹驱动模拟以及原型和真实用户的实验验证,结果表明该分类器能够高精度地检测敏感内容,快速学习新标签,并且对恶意用户的投毒攻击以及非恶意用户的不完美输入均保持鲁棒性。该方法在保护隐私的同时提高了系统的安全性和可靠性,适用于需要大规模内容审核的场景。

💡 推荐理由: 联邦学习在敏感内容分类中面临投毒攻击威胁,该研究提供了实用的防御方案,有助于保护用户隐私和系统完整性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)