联邦学习(FL)是一种允许多个客户端在不共享原始本地数据的情况下,仅通过共享梯度更新联合训练模型的范式。然而梯度更新本身也可能泄露隐私。现有方法通常采用本地差分隐私(LDP)机制,在共享前由客户端本地扰动梯度,但这类方法会因添加大量噪声而严重损害模型效用。为获得更好的隐私-效用权衡,近期研究倾向于在联邦学习中应用差分隐私的 shuffle 模型,通过中间洗牌操作实现隐私放大。本文提出 Camel,一个在 shuffle 模型下通信高效且可抵御恶意敌手的联邦学习框架。Camel 突破现有工作的限制,支持对 shuffle 计算的完整性校验,实现针对恶意服务器的安全性。具体而言,Camel 基于秘密共享洗牌这一前沿密码学原语,并定制了优化系统整体通信效率的技术,还引入轻量级完整性检查来强化服务器端计算的安全性。此外,作者通过分析整个 FL 过程的 Rényi 差分隐私(RDP),推导出显著更紧的隐私损失上界。大量实验表明,与现有最先进工作相比,Camel 在隐私-效用权衡上达到更优结果,并展现出有前景的性能。该研究适合关注联邦学习、差分隐私、安全多方计算和隐私增强技术的学者与安全工程师阅读。
💡 推荐理由: 该工作解决了联邦学习中隐私保护与模型效用难以兼得的痛点,并提出针对恶意服务器的安全防护,对实际部署隐私保护联邦学习系统具有重要参考价值。
🎯 建议动作: 研究跟进