#privacy-amplification

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xiaobo Huang, Fang Xie

本文针对差分隐私随机梯度下降(DPSGD)中隐私核算不严谨的问题进行研究。DPSGD通过在梯度上添加噪声并裁剪梯度来保护隐私,但这会导致模型效用显著下降且收敛缓慢。先前的工作,特别是差分隐私选择性更新与释放(DPSUR)算法,通过选择性更新部分梯度实现了较好的模型效用,但其隐私核算忽略了选择性释放机制引入的采样概率变化,从而削弱了隐私保证的严谨性。为了克服这一局限,本文重新评估了选择性释放机制的隐私分析,并提出了一种新算法——基于裁剪梯度的差分隐私选择性释放(DPSR-CG)。该算法通过严格的、新推导的隐私分析,在多个数据集(MNIST、CIFAR-10、IMDB和FMNIST)上进行了大量实验,结果表明DPSR-CG在保持严格隐私保证的同时,实现了卓越的模型性能。本文的核心贡献是修正了隐私核算缺陷,并提供了更高效的隐私-效用平衡方案。适合对差分隐私、机器学习隐私保护感兴趣的研究人员和工程师阅读。

💡 推荐理由: 该工作纠正了现有选择性释放DPSGD隐私核算的漏洞,提供了更严格的隐私保证,对实际部署差分隐私机器学习具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)