#byzantine-robust

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Xiaoyu Cao, Minghong Fang, Jia Liu 0002, Neil Zhenqiang Gong

联邦学习(FL)在多个客户端协同训练模型时面临拜占庭攻击的威胁:恶意客户端通过提交精心构造的本地模型更新来破坏全局模型。现有拜占庭鲁棒方法通常依赖服务端对客户端更新进行统计分析并剔除异常值,但由于缺乏可信根基,攻击者仍能通过设计特殊更新绕过检测。本文提出 FLTrust,一种新的拜占庭鲁棒联邦学习方法,其核心思想是由服务提供商自己引导信任。服务提供商收集一个小的干净训练数据集(称为根数据集),并基于该数据集维护一个服务器模型(server model)。在每次迭代中,服务提供商首先计算每个客户端本地更新与服务器模型更新之间的方向一致性,并据此分配信任分数:方向偏离越大的客户端得分越低。接着,服务提供商对客户端更新的幅度进行归一化,使其与服务器模型更新的向量落在同一超球面上,从而限制恶意更新的大幅度影响。最后,服务提供商以信任分数为权重对归一化后的客户端更新进行加权平均,得到全局模型更新并用于更新全局模型。在来自不同领域的六个数据集上的大量实验表明,FLTrust 能够抵御现有的多种攻击以及强自适应攻击。该方法不依赖对客户端行为的先验假设,且计算开销可控,为联邦学习提供了一种鲁棒且实用的信任引导机制。

💡 推荐理由: 联邦学习在实际部署中面临恶意客户端投毒攻击,FLTrust 通过引入服务端自建的信任根,从根本上提升了鲁棒性,为安全联邦学习提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zehui Tang, Yuchen Liu, Feihu Huang

本文提出了一种针对联邦学习(FL)中拜占庭攻击的多层防御自适应聚合方法(AdaBFL)。联邦学习允许客户端在不共享原始数据的情况下协作训练模型,但其分布式特性使其容易受到投毒攻击,恶意客户端可能提交损坏的模型以操纵全局模型。现有的拜占庭鲁棒方法要么无法平衡对抗多种攻击类型,要么依赖服务器持有数据集。为此,AdaBFL设计了一个新颖的三层防御机制:第一层通过统计检测异常更新,第二层采用加权平均聚合,第三层自适应调整各防御算法的权重以应对复杂攻击。该方法在非凸非独立同分布(non-iid)数据设置下提供了收敛性保证。在多个数据集上的实验表明,AdaBFL在防御效果上优于对比算法,且能有效应对多种攻击类型的混合场景。研究贡献包括:提出自适应多层防御框架、证明收敛性、以及实验验证鲁棒性。适合联邦学习安全研究者及关注隐私保护与鲁棒性的工程师阅读。

💡 推荐理由: 联邦学习中的投毒攻击是实际部署的主要威胁,现有防御往往顾此失彼。AdaBFL的自适应多层机制突破了单一防御的局限,为构建实用化鲁棒聚合方案提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)