#shuffle-model

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Shuangqing Xu, Yifeng Zheng 0001, Zhongyun Hua

联邦学习(FL)是一种允许多个客户端在不共享原始本地数据的情况下,仅通过共享梯度更新联合训练模型的范式。然而梯度更新本身也可能泄露隐私。现有方法通常采用本地差分隐私(LDP)机制,在共享前由客户端本地扰动梯度,但这类方法会因添加大量噪声而严重损害模型效用。为获得更好的隐私-效用权衡,近期研究倾向于在联邦学习中应用差分隐私的 shuffle 模型,通过中间洗牌操作实现隐私放大。本文提出 Camel,一个在 shuffle 模型下通信高效且可抵御恶意敌手的联邦学习框架。Camel 突破现有工作的限制,支持对 shuffle 计算的完整性校验,实现针对恶意服务器的安全性。具体而言,Camel 基于秘密共享洗牌这一前沿密码学原语,并定制了优化系统整体通信效率的技术,还引入轻量级完整性检查来强化服务器端计算的安全性。此外,作者通过分析整个 FL 过程的 Rényi 差分隐私(RDP),推导出显著更紧的隐私损失上界。大量实验表明,与现有最先进工作相比,Camel 在隐私-效用权衡上达到更优结果,并展现出有前景的性能。该研究适合关注联邦学习、差分隐私、安全多方计算和隐私增强技术的学者与安全工程师阅读。

💡 推荐理由: 该工作解决了联邦学习中隐私保护与模型效用难以兼得的痛点,并提出针对恶意服务器的安全防护,对实际部署隐私保护联邦学习系统具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Antonious M. Girgis, Deepesh Data, Suhas N. Diggavi, Ananda Theertha Suresh, Peter Kairouz

本文研究了洗牌模型(Shuffle Model)下的Rényi差分隐私(Rényi Differential Privacy, RDP)保证。在本地差分隐私(Local Differential Privacy, LDP)中,用户通过随机化机制扰动数据后发送给服务器,但通常需要较大噪声来保护隐私。洗牌模型通过引入一个可信的洗牌器(shuffler)在用户和服务器之间,匿名化用户数据,从而在相同隐私预算下提高效用。已有研究分析了洗牌模型的传统ε-差分隐私(ε-DP) guarantee,但关于其Rényi差分隐私特性的分析尚不充分。本文首次系统性地给出了在洗牌模型下实现RDP的隐私放大(privacy amplification)界限,具体针对两类随机化机制:一类是满足局部差分隐私(Local DP)的机制,另一类是满足集中式差分隐私(Central DP)的机制。作者推导了在洗牌处理后,原始局部随机化机制的RDP参数如何被放大。特别地,对于满足局部RDP的机制,本文证明了经过洗牌后,隐私参数以用户数量n的平方根速率衰减;对于满足集中式RDP的机制,则衰减速率更快。文中还讨论了如何通过组合定理将洗牌模型的RDP界限应用于迭代算法(如随机梯度下降SGD)。实验部分通过数值计算验证了理论界限的 tightness,并展示了洗牌模型在机器学习任务(如逻辑回归和深度神经网络)中的效用提升。该工作为理解洗牌模型下的隐私泄露提供了更精细的刻画,有助于设计更高效的隐私保护算法。

💡 推荐理由: 洗牌模型是一种有前景的隐私放大范式,本文首次系统分析其Rényi差分隐私性质,为隐私保护算法设计提供更紧的理论界,并可直接推广到联邦学习、隐私聚合等场景。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Farhin Farhad Riya, Olivera Kotevska, Jinyuan Stella Sun

联邦学习(FL)中,异构差分隐私(HDP)允许客户端根据自身策略和数据敏感度选择不同的隐私预算(ε_i)。现有HDP-FL系统常采用ε感知的服务器聚合,通过根据客户端声明的隐私预算重新加权其梯度更新来提升模型效用。然而,联邦学习中的梯度更新保留了由非独立同分布(non-IID)数据引起的结构模式,这些额外信号为诚实但好奇的服务器提供了新的推断机会。本文首先展示了一种隐私推理攻击:服务器利用梯度去噪和代理建模,在现实知识约束下,能够推断客户端的分布属性并在训练轮次间链接同一客户端的更新,通过代理推断准确率和链接成功率衡量。Shuffle-Model作为一种防御手段,通过匿名化更新来源来抵御此类风险,但其与HDP-FL的ε感知聚合本质不兼容。为解决此矛盾,本文提出IntraShuffler,一种面向HDP-FL系统的中间件防御框架。IntraShuffler引入隐私感知的洗牌机制:将客户端分组到隐私兼容的桶中,在每个桶内执行参数级洗牌,以破坏持续的梯度结构,同时保留ε感知聚合。在四个不同数据集上的实验表明,IntraShuffler将梯度可恢复性降低超过60%,代理推断准确率从0.78降至0.33,同时在不同FL聚合规则下保持了可比的模型效用。

💡 推荐理由: 揭示了HDP-FL中ε感知聚合的隐私漏洞,并提出了一种兼容的防御方案,对联邦学习隐私保护实践有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
推荐 9.5
Conf: 50%
👥 作者: Borja Balle, James Bell 0001, Adrià Gascón

该论文受差分隐私洗牌模型(shuffle model)近期发展的启发,提出了一种新的近似洗牌功能——交替洗牌(Alternating Shuffle)。研究背景是:在洗牌模型中,一个可信的洗牌器随机排列用户的数据,从而放大本地差分隐私的隐私预算。然而,现有的单服务器威胁模型(其中敌手观察所有通信)中的洗牌协议,每个客户端的通信量与客户端总数呈线性关系,这限制了可扩展性。核心问题是如何设计一种通信效率更高的近似洗牌协议,同时保持差分隐私的放大效应。论文的主要贡献如下:1. 提出了交替洗牌功能,并给出了一个在单服务器威胁模型下实现该功能的协议。在该协议中,每个客户端的通信量仅随客户端数量亚线性增长(具体为对数次方),相比之前的协议提升了数个数量级。2. 证明了交替洗牌与均匀洗牌具有类似的差分隐私放大效应,即应用交替洗牌后,本地随机机制的隐私参数会得到放大,从而支持更高效的数据发布。3. 将交替洗牌应用于基于Ishai等人工作的安全求和协议,证明了替代后协议的安全性保持不变。4. 在实现过程中,还开发了一个单服务器威胁模型下的精确洗牌协议,每个客户端的分摊通信量为对数级别,该协议本身可能具有独立的研究价值。实验部分(若有)着重于具体协议的通信开销对比,展示了交替洗牌在降低通信带宽方面的显著优势。该研究工作主要面向差分隐私、密码学和安全多方计算领域的研究者与实践者。

💡 推荐理由: 该研究为差分隐私洗牌模型提供了更高效的实现方案,显著降低了客户端通信成本,有助于推动差分隐私在大规模联邦学习、统计查询等场景中的实际部署。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)