#aggregation

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Minghong Fang, Seyedsina Nabavirazavi, Zhuqing Liu, Wei Sun 0013, Sundaraja Sitharama Iyengar, Haibo Yang 0001

联邦学习(FL)允许多个客户端在服务器协调下协同训练全局机器学习模型,而无需交换私有训练数据。然而,其分布式特性使其容易受到投毒攻击:恶意客户端可通过发送篡改后的本地模型更新来操纵全局模型。为此,学术界提出了多种针对拜占庭故障的鲁棒聚合规则(如Trimmed-mean、Median等),以抵御此类攻击。但现有方法仍可能被高级攻击绕过,或依赖关于服务器行为的不可实现假设。本文提出一个关键观点:无需设计新的拜占庭鲁棒聚合规则,而是可以通过增强已有成熟聚合规则的鲁棒性来保障联邦学习的安全。作者提出了FoundationFL这一新型防御机制:服务器在收到客户端的本地模型更新后,先生成合成更新(synthetic updates),然后将客户端模型更新与合成更新一起输入现有拜占庭鲁棒基础聚合规则(如Trimmed-mean或Median)进行组合。文章从理论上证明了FoundationFL在拜占庭设置下的收敛性能,并在多个真实数据集上进行了全面实验,验证了其有效性。核心贡献在于:1)重新思考联邦学习防御策略,避免重复设计复杂规则;2)通过合成更新与基础聚合器结合,提高鲁棒性且易于实现;3)提供了理论收敛保证和实证验证。适合联邦学习安全研究者、隐私保护机器学习工程师以及关注对抗性投毒防御的安全从业者阅读。

💡 推荐理由: 该研究为联邦学习投毒攻击防御提供了新思路,无需发明新聚合器,通过服务器生成合成更新即可增强现有方法的鲁棒性,有助降低防御设计成本并提升实用安全性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ryan Gillespie

本文提出了一种在无中央协调器且无需共识的情况下实现拜占庭容错鲁棒聚合的方法。现有的拜占庭鲁棒聚合规则(如 multi-Krum)通常依赖中央协调器,且因其全局耦合、非结合性和不连续性而难以去中心化——微小的扰动可能导致输出突变。作者提出的 ACFA(Accountable Consensus-Free Aggregation)框架通过复制一个内容寻址的 OR-Set(存储签名贡献)和一个仅增长的自我认证歧义证明集合,实现了无需共识的复制。聚合过程是收敛乘积状态的确定性纯函数:在哈希规范顺序上进行定点整数运算,通过内容哈希打破平局。论文证明了非单调、非结合或随机的 CRDT 收敛乘积的任何纯函数都能继承强最终一致性,并给出了逆命题。原型系统(10个节点,3个拜占庭节点)通过了16/16的验证检查,包括敌对 gossip 下的字节一致根、延迟歧义证明后的确定性重收敛、分区恢复等。该方法的保证是一致性而非准确性;鲁棒性依赖于 2f+3 个已接受的贡献(最多 f 个拜占庭节点)和给定的量化裕度条件。本文适合分布式系统、拜占庭容错和鲁棒聚合领域的研究人员阅读。

💡 推荐理由: 首次在无共识条件下实现了拜占庭容错聚合的强最终一致性,为去中心化联邦学习、区块链等场景提供了理论依据和实用方案。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)