#byzantine-robustness

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Thomas Boudou, Batiste Le Bars, Nirupam Gupta, Aurélien Bellet

该论文研究了在拜占庭鲁棒分布式学习场景下,本地差分隐私(LDP)对模型泛化误差的影响。现有工作已证明在分布式学习中,拜占庭鲁棒性、LDP和优化误差之间存在基本的三难困境。然而,本文发现这一三难困境并非普遍适用于泛化误差,而是关键取决于隐私强度。具体而言,在高噪声(强隐私)区域,作者证明增加隐私实际上会降低泛化误差,即鲁棒性与隐私之间不存在冲突;而在低噪声(弱隐私)区域,两者之间的冲突重新出现,增加隐私确实会损害泛化。通过推导LDP约束下拜占庭鲁棒分布式学习的算法稳定性上下界,论文从理论上解释了泛化误差的这种非单调行为,并通过实验验证了理论发现。该结果对于设计兼顾鲁棒性、隐私和泛化性能的联邦学习系统具有重要指导意义。

💡 推荐理由: 揭示了拜占庭鲁棒与隐私之间复杂关系,挑战了现有的三难困境认知,为设计更优的联邦学习安全策略提供理论依据。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ousmane Touat, César Sabater, Mohamed Maouche, Sonia Ben Mokhtar

本文针对去中心化机器学习中同时保证数据机密性和拜占庭鲁棒性的挑战,提出了Giskard协议。在去中心化学习中,客户端本地保存数据,仅与邻居交换模型参数或梯度。机密性要求隐藏这些参数(如通过密码学技术),而拜占庭鲁棒性需要检查参数,两者目标冲突。现有工作要么分离处理,要么使用安全多方计算(MPC)实现鲁棒聚合,但可扩展性差,需要全连接通信或委托给小子集导致负载随网络规模增长。Giskard将n个参与者组织成大小为O(log n)的委员会树,通过委员会内BGW风格的MPC,在值域上执行委员会自适应的分布式二分搜索来计算坐标近似中位数。理论证明了安全性和机密性,实验扩展到百万参与者,与最接近的竞争者相比,Giskard渐近降低了每方通信复杂度,并在多达n/4的拜占庭参与者下保持模型效用。

💡 推荐理由: Giskard为大规模去中心化学习提供了首个同时实现机密性和拜占庭鲁棒性的高效聚合方案,解决了可扩展性瓶颈,对分布式机器学习安全研究具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)