#decentralized-federated-learning

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Yue Li, Sudip Bhujel, Cameron Lira, Ning Wang, Yang Xiao

本文提出了一种名为 DFL-C 的新型拜占庭鲁棒去中心化联邦学习(DFL)架构,旨在解决去中心化场景下全局模型一致性问题。传统的去中心化联邦学习允许各节点在没有中央服务器的情况下协同训练 AI 模型,但现有方案无法保证全局模型一致性,这在任务关键型协作场景中会导致决策不统一和安全隐患。此外,缺乏一致性还会放大拜占庭攻击者的威胁,攻击者可利用去中心化网络拓扑和弱同步性,对单个受害者实施双花(equivocation)和模型投毒攻击。DFL-C 的核心创新在于将异步公共子集(ACS)共识协议集成到 DFL 工作流中,确保所有节点聚合统一的模型更新集合,从而在存在个别拜占庭节点双花行为的情况下仍能建立全局模型一致性。同时,DFL-C 实现了双域信任评分机制,用于抵御数据域拜占庭操纵(包括模型投毒攻击),该机制与共识协议互补,显著降低了共识协议的整体运行时开销。实验结果表明,DFL-C 在应对拜占庭行为时能保持模型精度,并以适中的共识开销实现全局模型一致性。与当前不提供模型一致性的最先进 DFL 方案 BALANCE(Fang 等人)相比,DFL-C 在针对非定向模型投毒攻击时表现出更高的模型精度,在后门攻击下具有相当的鲁棒性,且这一优势在非独立同分布(non-IID)场景下更为明显。该研究适合关注分布式机器学习安全性、联邦学习鲁棒性、共识协议与 AI 系统融合的研究人员和工程师阅读。

💡 推荐理由: 该研究首次将 ACS 共识协议与信任评分结合,解决了去中心化联邦学习中全局模型一致性与拜占庭鲁棒性难以兼得的问题,为任务关键型多智能体协作场景提供了更安全的训练框架。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mouhamed Amine Bouchiha, Gregory Blanc, Yufei Han

去中心化联邦学习(DFL)通过点对点模型交换替代中心化参数服务器,旨在实现无需信任的协作学习。然而,这种架构转变从根本上重塑了威胁模型:由于缺乏全局协调的聚合机制,DFL特别容易受到后门攻击的影响——恶意参与者可以在保持干净任务性能的同时植入持久隐藏行为。本文指出,DFL的鲁棒性此前被显著高估。现有研究往往依赖简化的威胁模型、非自适应攻击者、碎片化的评估协议、不一致的通信拓扑以及临时训练配置,导致对DFL安全性的理解不完整。为填补这一空白,作者提出了BackDFL,一个统一基准,用于在现实且自适应的后门攻击下系统评估DFL。通过大量实验,BackDFL揭示了去中心化学习的关键失效模式。结果表明,最先进的拜占庭鲁棒DFL方法以及经过适配的联邦学习后门防御方法,在低至15%的恶意参与率下即宣告失败,尤其在异构环境中表现更差,而其鲁棒性在不同通信图拓扑间存在显著差异。该研究强调,DFL的安全性需结合拓扑、异构性等实际因素重新审视,并为后续防御设计提供可复现的评估框架。适合关注联邦学习安全、鲁棒聚合算法及对抗性机器学习的研究人员和工程师阅读。

💡 推荐理由: 该研究打破了对去中心化联邦学习鲁棒性的乐观假设,证明现有防御在低恶意参与率下即可失效,为蓝队和安全工程师评估分布式学习系统风险提供了关键依据。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Phuc Hoang Truong Huynh, Dung Tran Vinh, Khoa Duc Anh Lam, An Nghiem Nguyen Truong, Uyen Nha Tran Bui, Khang Nguyen Dinh, Bao Nguyen Le Gia, Minh Le Nguyen Nhat, Manh Hong Duong, The Anh Han, Thi Ai Thao Nguyen, and Le Hong Trang

去中心化联邦学习(DFL)是一种无需中心服务器的隐私保护分布式机器学习范式,但缺乏中央协调器使得参与节点可能出现搭便车、不诚实协作等机会主义行为。演化博弈论(EGT)常用于分析这类行为的演化,然而先前研究往往假设智能体具有完全理性,且策略固定不变,无法反映真实世界中的有限理性和动态调整。本文作者提出一个新的EGT框架,专门用于分析DFL中策略的演化并提升整体性能。具体而言,研究在晶格网络(lattice)结构上对节点间的对等交互建模,基于有限理性假设;设计了一个综合收益矩阵,纳入训练成本、通信开销和协作奖励,同时定制了策略更新规则以刻画空间传播动力学。为了有效遏制搭便车行为,框架集成了基于声誉的奖惩机制:表现良好的节点获得声誉增益,搭便车者受到惩罚。仿真实验表明,该框架显著优于基线:平均准确率从约70%提高到82%;合作频率从低于5%跃升至接近100%;准确率方差从约0.40下降到0.002,实现了更均匀的收敛和更高的系统稳定性。该工作不仅为DFL中的协作激励提供了新思路,也为后续在更复杂网络和攻击模型下的研究奠定基础。

💡 推荐理由: 该研究为去中心化联邦学习场景中的机会主义行为提供了理论分析框架和声誉激励机制,有助于设计更鲁棒的协作学习系统,对维护分布式AI生态的公平性和稳定性具有参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)