#shuffle-model

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Farhin Farhad Riya, Olivera Kotevska, Jinyuan Stella Sun

联邦学习(FL)中,异构差分隐私(HDP)允许客户端根据自身策略和数据敏感度选择不同的隐私预算(ε_i)。现有HDP-FL系统常采用ε感知的服务器聚合,通过根据客户端声明的隐私预算重新加权其梯度更新来提升模型效用。然而,联邦学习中的梯度更新保留了由非独立同分布(non-IID)数据引起的结构模式,这些额外信号为诚实但好奇的服务器提供了新的推断机会。本文首先展示了一种隐私推理攻击:服务器利用梯度去噪和代理建模,在现实知识约束下,能够推断客户端的分布属性并在训练轮次间链接同一客户端的更新,通过代理推断准确率和链接成功率衡量。Shuffle-Model作为一种防御手段,通过匿名化更新来源来抵御此类风险,但其与HDP-FL的ε感知聚合本质不兼容。为解决此矛盾,本文提出IntraShuffler,一种面向HDP-FL系统的中间件防御框架。IntraShuffler引入隐私感知的洗牌机制:将客户端分组到隐私兼容的桶中,在每个桶内执行参数级洗牌,以破坏持续的梯度结构,同时保留ε感知聚合。在四个不同数据集上的实验表明,IntraShuffler将梯度可恢复性降低超过60%,代理推断准确率从0.78降至0.33,同时在不同FL聚合规则下保持了可比的模型效用。

💡 推荐理由: 揭示了HDP-FL中ε感知聚合的隐私漏洞,并提出了一种兼容的防御方案,对联邦学习隐私保护实践有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
推荐 9.5
Conf: 50%
👥 作者: Borja Balle, James Bell 0001, Adrià Gascón

该论文受差分隐私洗牌模型(shuffle model)近期发展的启发,提出了一种新的近似洗牌功能——交替洗牌(Alternating Shuffle)。研究背景是:在洗牌模型中,一个可信的洗牌器随机排列用户的数据,从而放大本地差分隐私的隐私预算。然而,现有的单服务器威胁模型(其中敌手观察所有通信)中的洗牌协议,每个客户端的通信量与客户端总数呈线性关系,这限制了可扩展性。核心问题是如何设计一种通信效率更高的近似洗牌协议,同时保持差分隐私的放大效应。论文的主要贡献如下:1. 提出了交替洗牌功能,并给出了一个在单服务器威胁模型下实现该功能的协议。在该协议中,每个客户端的通信量仅随客户端数量亚线性增长(具体为对数次方),相比之前的协议提升了数个数量级。2. 证明了交替洗牌与均匀洗牌具有类似的差分隐私放大效应,即应用交替洗牌后,本地随机机制的隐私参数会得到放大,从而支持更高效的数据发布。3. 将交替洗牌应用于基于Ishai等人工作的安全求和协议,证明了替代后协议的安全性保持不变。4. 在实现过程中,还开发了一个单服务器威胁模型下的精确洗牌协议,每个客户端的分摊通信量为对数级别,该协议本身可能具有独立的研究价值。实验部分(若有)着重于具体协议的通信开销对比,展示了交替洗牌在降低通信带宽方面的显著优势。该研究工作主要面向差分隐私、密码学和安全多方计算领域的研究者与实践者。

💡 推荐理由: 该研究为差分隐私洗牌模型提供了更高效的实现方案,显著降低了客户端通信成本,有助于推动差分隐私在大规模联邦学习、统计查询等场景中的实际部署。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)