推荐 9.5
Conf: 50%
本文针对分布式学习中梯度共享引发的隐私推断风险进行了系统性研究。在分布式学习(如联邦学习)中,模型通过共享从用户敏感数据计算出的梯度进行迭代更新,但已有研究表明梯度可能泄露隐私。作者提出了一种统一的基于博弈论的框架,将多种隐私攻击(包括属性推断、性质推断、分布推断和用户身份披露)纳入其中。通过五个涵盖不同数据模态的数据集上的大量实验,分析了攻击者不同不确定性程度对其推断能力的影响,结果证实单纯依赖数据聚合(如平均梯度)无法有效抵御此类推断攻击。进一步,论文在静态和自适应对手两种设置下评估了五种防御机制:梯度修剪(只保留部分梯度)、符号梯度下降(仅传递梯度的符号)、对抗扰动(向梯度添加对抗噪声)、变分信息瓶颈(限制梯度中的信息量)以及差分隐私(向梯度注入经过校准的噪声)。从信息论角度分析了这些防御手段对梯度推断的抑制效果。最后,作者提出了一种审计属性推断隐私的方法,通过构造对抗性金丝雀记录(canary records)来改善最坏情况下隐私泄露的实证估计。本文适用于从事隐私保护机器学习、联邦学习安全以及分布式系统隐私审计的研究人员和工程师。
💡 推荐理由: 为分布式学习中的梯度隐私风险提供了统一分析框架,系统评估了多种防御手段在静态和自适应对手下的有效性,对设计更鲁棒的隐私保护方案具有指导意义。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)