#differential privacy

共收录 3 条相关安全情报。

← 返回所有主题
INFO
PAPER 2026-05-20

Information Leakage Envelopes

推荐 3.5
Conf: 50%
👥 作者: Sara Saeidian, Carlos Pinzón, Catuscia Palamidessi

本文在点对点最大泄漏(PML)框架下研究隐私保证的两个要求:对后处理具有鲁棒性,以及能限定信息泄漏超过给定阈值的失败概率。作者首先分析两种受(近似)差分隐私启发的候选定义,发现两者均无法同时满足上述要求。为此,引入PML包络(PML envelope)概念,它度量在机制输出经过任意后处理后关于秘密的最大泄漏量。通过构造,PML包络同时满足鲁棒性和失败概率上界两个性质。文章讨论了包络的基本结构性质(如单调性),推导了通用上下界,并针对两种广泛使用的隐私机制——高隐私域下的PML极值机制和随机响应——进行具体分析。该工作将PML包络确立为一种自然且在操作上有意义的定义,用于提供在任意下游变换下仍能保持的隐私保证。

💡 推荐理由: 为隐私机制设计提供了新的理论工具,确保隐私保证在后处理下依然有效,对安全从业者理解数据发布中的隐私泄漏边界具有参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yuki Nakamura

该论文在经典的Glosten-Milgrom(1985)顺序交易模型框架下,引入了一个信息论隐私机制:市场做市商观察到的交易方向被一个二元翻转信道(翻转概率η)扰动。在贝叶斯市场做市商定价规则下,论文推导出了均衡买卖价差的闭式解为 μ(1-2η)Δ,其中μ为知情交易者比例,Δ为资产价值范围。福利分解揭示了一笔从协议流动性池到交易者的每笔交易转移 μηΔ——称为“隐私补贴”,这与先前在连续高斯Kyle模型中建立的隐私补贴概念相类似。该结果将隐私补贴概念从连续高斯环境扩展到了离散两状态微观结构,证明了这一概念在两个经典模型中的稳健性。主要应用场景为基于MPC(安全多方计算)的撮合引擎,其中引擎基于带差分隐私噪声的方向信号进行定价。论文通过理论推导和数学证明,展示了在金融市场微观结构中引入隐私保护机制对市场质量和福利的影响。适合对机制设计、市场微观结构、隐私保护经济学感兴趣的研究者阅读。

💡 推荐理由: 首次在离散状态Glosten-Milgrom模型中量化隐私对市场质量的影响,为去中心化金融(DeFi)中的隐私保护撮合机制设计提供理论基础。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
推荐 3.5
Conf: 50%
👥 作者: Tudor Cebere, Mathieu Even, Linus Bleistein, Aurélien Bellet

本文提出了一种名为“零训练轮次”(Zero-Run)的隐私审计方法,旨在解决现有隐私审计方法需要干预训练流程(如多次重训练或随机化数据包含)的局限性。在大型部署系统(如基础模型)中,这些干预往往不可行。作者利用两个固定数据集——已知为训练集成员的样本和已知为非成员的样本——进行事后审计。在这种观测性设置下,成员身份不再随机化,成员与非成员数据可能分布不同,导致成员推断分数反映分布偏移而非算法泄露。借鉴因果推断的思想,作者形式化了这种混杂效应,并提出了两种互补的校正方法:第一种将分布偏移和算法泄露的组合效应建模为自适应组合,产生保守的全局校正;第二种基于观测数据调整逐点成员猜测,得到更尖锐的实例依赖边界。在合成数据和大规模模型上的实验表明,当无法进行重训练或受控数据插入时,Zero-Run审计能够实现实用的隐私评估。本文的主要贡献在于提出了无需额外训练运行即可进行隐私审计的框架,并通过因果推断方法校正分布偏移带来的偏差。

💡 推荐理由: 实际中,许多大型模型(如基础模型)的隐私审计因无法干预训练流程而难以进行。Zero-Run方法利用固定数据集进行事后审计,为安全从业者提供了一种实用工具,特别适合评估已部署模型的差分隐私下限。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)