本文关注众包联邦学习(Crowdsourced Federated Learning, CrowdFL)中的鲁棒性量化问题。CrowdFL通过众包范式允许开放、异构的参与,扩展了传统联邦学习,而声誉驱动的激励机制常被用于引导工人选择并增强可信度。然而,现有框架大多忽略了对隐秘对抗者(能规避标准检测机制的对手)鲁棒性的量化评估。为此,论文提出R2CFL,一个鲁棒的声誉驱动CrowdFL框架。R2CFL的核心创新在于:1) 设计了一个鲁棒声誉模型,将参与者的声誉演化与聚合阶段的更新过滤(最近邻混合,Nearest Neighbor Mixing,简称R2-NNM)机制耦合;2) 该机制能够防止隐秘攻击者通过逐步积累信任来影响未来任务。实验结果表明,面对自适应攻击者,R2-NNM在拜占庭鲁棒性和后门防御效果上达到或超越了现有的最先进防御方法;此外,当与现有检测-过滤类防御集成时,所提出的声誉模型能通过生成与底层防御真实正阳性率、假阳性率特性高度一致的声誉分数,准确捕捉该防御的统计鲁棒性。该工作的主要贡献在于首次将声誉机制与鲁棒聚合防御相结合,填补了CrowdFL中针对隐秘对抗行为的鲁棒性量化空白,并为开放环境下联邦学习的可信执行提供了新思路。适合关注联邦学习安全、鲁棒聚合机制设计、声誉系统评估的研究人员及安全工程师阅读。
💡 推荐理由: 该研究直击众包联邦学习中的隐秘攻击难题,提出将声誉模型与防御聚合耦合,为蓝队评估联邦学习系统的抗投毒能力提供了新的量化视角和防护思路。
🎯 建议动作: 研究跟进