#robust-aggregation

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xiaoyan Ma, Seohyun Lee, Taejoon Kim, Christopher G. Brinton

本文研究了空中联邦学习(OTA-FL)系统中的后门攻击检测与缓解问题。OTA-FL利用无线信道的叠加特性提高通信效率,但同时也带来了严重的安全隐患:参数服务器(PS)无法访问单个本地更新,因此难以识别和排除被投毒的梯度。此外,在非独立同分布(Non-IID)训练数据下,良性梯度漂移可能与恶意更新极为相似,进一步加剧了检测难度。针对这一问题,本文提出了一种两阶段鲁棒聚合框架。首先,根据数据模态(如波形、文本、图像)和模型架构,为每个客户端分配一个模态感知的多指标信任评分,选择最能区分后门更新的指标。基于该评分,PS执行基于信任的多址接入(TBMA),将客户端分为可信、可疑和恶意三类。对于可疑客户端,PS进一步通过层间检查和纵向声誉机制进行深入审查。在多个数据集上的实验结果表明,该方法能够有效抑制隐蔽的后门攻击(包括有界缩放攻击、欧几里得约束攻击、余弦约束攻击和Neurotoxin),同时保持主任务准确率基本不受影响。本文主要贡献在于提出了一个无需访问原始本地更新的防御框架,适用于OTA-FL场景,并针对不同数据模态设计了可定制的信任指标。适合无线通信、联邦学习及对抗性机器学习领域的研究人员阅读。

💡 推荐理由: OTA-FL的通信效率和安全性之间存在固有矛盾,该研究首次提出一种不依赖原始本地更新的后门防御方案,为无线联邦学习安全提供了新的解决思路,对部署实际OTA-FL系统具有指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)