差分隐私已成为隐私保护数据发布的标准技术,但其与具体披露风险之间的关系并不直观。特别是在成员推理场景下,一个对手在观察到差分隐私保护后的发布数据时,其对某个目标个体是否被包含进数据集的信念(后验信念)相比先前信念(先验信念)会发生多大变化,一直是悬而未决的问题。本文针对这一核心问题展开了理论研究。作者在“有界差分隐私”(包括有界概率差分隐私和有界近似差分隐私)框架下,推导了包含信念后验-先验比率的严格上界和下界。他们假设了一类最坏情况的对手,即该对手掌握了除一个目标个体之外所有数据参与者的辅助信息(all-but-one知识),从而证明了由此获得的界限对任何对手均适用。由于这些概率性界限在机制随机性下可能以非零概率失效,论文进一步以高斯机制为研究对象,深入分析了其失效概率。作者推导了该失效概率的理论上限,并在广泛的参数设置范围内通过蒙特卡洛模拟估计了实际失效概率。实验结果表明,观测到的实际失效率比理论上的最坏情况上限小了好几个数量级,说明理论上限极为保守。这一发现意味着,在实际运行中,差分隐私机制提供的推断隐私保证可能远比理论上限所暗示的要强。论文为理解差分隐私与成员推断风险之间的量化关系提供了新视角,为隐私保护数据发布的安全性评估给出了更精细的工具。
💡 推荐理由: 该论文为差分隐私数据发布提供了关于成员包含信念变化的严格上下界,并证明高斯机制的实际失效概率远低于理论上限,有助于安全从业者更可靠地量化成员推理攻击风险,也为实际设置隐私预算与噪声参数提供了理论依据,值得DP应用团队关注。
🎯 建议动作: 研究跟进