推荐 9.5
Conf: 50%
联邦学习(FL)在多个客户端协同训练模型时面临拜占庭攻击的威胁:恶意客户端通过提交精心构造的本地模型更新来破坏全局模型。现有拜占庭鲁棒方法通常依赖服务端对客户端更新进行统计分析并剔除异常值,但由于缺乏可信根基,攻击者仍能通过设计特殊更新绕过检测。本文提出 FLTrust,一种新的拜占庭鲁棒联邦学习方法,其核心思想是由服务提供商自己引导信任。服务提供商收集一个小的干净训练数据集(称为根数据集),并基于该数据集维护一个服务器模型(server model)。在每次迭代中,服务提供商首先计算每个客户端本地更新与服务器模型更新之间的方向一致性,并据此分配信任分数:方向偏离越大的客户端得分越低。接着,服务提供商对客户端更新的幅度进行归一化,使其与服务器模型更新的向量落在同一超球面上,从而限制恶意更新的大幅度影响。最后,服务提供商以信任分数为权重对归一化后的客户端更新进行加权平均,得到全局模型更新并用于更新全局模型。在来自不同领域的六个数据集上的大量实验表明,FLTrust 能够抵御现有的多种攻击以及强自适应攻击。该方法不依赖对客户端行为的先验假设,且计算开销可控,为联邦学习提供了一种鲁棒且实用的信任引导机制。
💡 推荐理由: 联邦学习在实际部署中面临恶意客户端投毒攻击,FLTrust 通过引入服务端自建的信任根,从根本上提升了鲁棒性,为安全联邦学习提供了新思路。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)