#gradient inversion

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Kaiyuan Zhang 0002, Siyuan Cheng 0005, Guangyu Shen, Bruno Ribeiro 0001, Shengwei An, Pin-Yu Chen, Xiangyu Zhang 0001, Ninghui Li 0001

该论文针对联邦学习中的梯度反转攻击提出了一种新的防御方法 CENSOR。联邦学习中,客户端发送梯度更新至中央服务器,但梯度可能泄露原始训练数据的隐私信息。现有的梯度反转攻击可以从梯度中恢复出训练样本,而现有防御方法在高维模型参数下效果有限。CENSOR 利用模型参数的高维特性,通过将梯度投影到与原始梯度正交的子空间中进行扰动,并采用冷后验(cold posterior)在正交子空间上进行贝叶斯采样,从而选择一个既能有效防御梯度反转攻击又能保持模型效用的最优梯度。作者在三个不同数据集上进行了全面实验,与多种先进攻击和防御方法对比,证明了 CENSOR 在防御性能和模型效用之间的良好平衡。该方法特别适用于大型神经网络模型,为联邦学习隐私保护提供了新的思路。

💡 推荐理由: 联邦学习中的隐私泄露风险严重,该工作提供了一种新的可证明有效的防御机制,尤其针对高维模型,有助于在实际部署中保护客户端数据。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)