推荐 9.5
Conf: 50%
本文研究差分隐私随机梯度下降(DP-SGD)中,使用数据打乱(shuffling)替代传统泊松子采样(Poisson subsampling)时隐私保证的准确性。传统DP-SGD通过泊松子采样随机选择每轮训练批次,但打乱因计算开销低、兼容性好而被广泛采用,然而其理论隐私保证的紧致性仍是开放问题。现有实践常直接用泊松子采样的隐私分析来评估打乱下的模型,可能导致隐私保证被高估。为此,作者提出了面向打乱DP-SGD的新型审计程序,以量化理论隐私界限与实际泄露之间的差距。实验设置包括不同批次大小、隐私预算和威胁模型。结果表明,使用打乱的DP模型隐私保证被高估达4倍,且这种差距在不同参数和威胁模型下并不均匀。进一步研究发现,打乱过程的两种常见变体导致隐私泄露增加至多10倍。本文强调了在缺乏严格分析方法时,使用打乱替代泊松子采样存在的隐私风险。适合研究差分隐私、机器学习隐私保护的研究者和工程师阅读。
💡 推荐理由: 差分隐私实践中广泛使用打乱来减少计算开销,但本文首次系统审计了打乱DP-SGD的真实隐私泄露,发现理论保证可能严重高估,直接影响隐私预算的可靠性,对合规审计和安全部署有重要警示。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)