#adversarial-server

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Zhifeng Jiang 0001, Peng Ye 0005, Shiqi He, Wei Wang 0030, Ruichuan Chen, Bo Li 0001

联邦学习(FL)中的隐私增强技术,如安全聚合和分布式差分隐私,通常依赖一个关键假设:参与者中必须存在诚实多数,以抵御各种攻击。然而在实际部署中,服务器并非总是可信的,一个恶意的服务器可以策略性地选择已受感染的客户端,人为制造不诚实多数,从而破坏整个系统的安全保证。本文提出名为 Lotto 的联邦学习系统,致力于解决这一基础但长期未被充分研究的问题——即如何对抗恶意服务器实现安全的参与者选择。Lotto 支持两种选择算法:随机选择和知情选择。为了在没有可信服务器的情况下确保随机选择,Lotto 使得每个客户端能够依据可验证的随机性自主决定是否参与,从而消除了对服务器信任的依赖。对于更容易被操纵的知情选择,Lotto 通过在经过筛选的客户端池中进行随机选择来近似该算法,从而限制了服务器的操作空间。理论分析证明,Lotto 能有效将服务器选中的受损参与者比例对齐到全体客户端中不诚实客户端的基线比例。大规模实验进一步表明,Lotto 的收敛速度(时间到精度)与传统不安全的选择方法相当,说明其安全选择带来的计算开销很低。该研究为联邦学习中的参与者选择提供了一种可信且高效的新机制,增强了系统在对抗性服务器环境下的鲁棒性。适合联邦学习平台开发者、隐私保护机器学习研究人员以及关注服务器不可信场景的安全工程师阅读。

💡 推荐理由: 联邦学习常假设服务器可信,但实际中服务器可能被入侵。Lotto 提供无需可信服务器的参与者选择机制,确保选择过程不被操纵,从根本上支撑安全聚合等技术的防御有效性,值得安全从业者关注。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)