Protecting K-Nearest Neighbor Queries from Location Inference Attacks
本文首次系统性地研究了k-近邻查询（kNNQ）中的位置隐私泄露问题。kNNQ是位置服务（如“附近的人”）的核心组件，但长期以来其隐私风险被忽视。作者提出了两种针对kNNQ的位置推断攻击：几何相交位置推断攻击（GI-LIA）和零阶优化位置推断
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题DP-MacAdam: Differentially Private Mechanism with Adaptive Clipping and Adaptive Momentum
本文提出了一种名为 DP-MacAdam 的新型差分隐私机制，旨在解决差分隐私随机梯度下降（DP-SGD）中固定梯度裁剪阈值导致的局限性。现有自适应裁剪算法（如 AdaClip）虽然能根据梯度经验均值和方差动态调整裁剪参数，从而获得更有效的
DPDL: Towards Differential Privacy Preservation in Decentralized Stochastic Learning on Non-IID Data
该论文针对去中心化学习（Decentralized Learning）中的隐私保护问题展开研究。在去中心化学习中，多个智能体（Agent）在没有中心服务器的情况下协作训练全局模型，通过交换梯度信息来更新模型。然而，这种梯度交换会带来严重的隐
Revisiting Privacy Amplification by Subsampling in Selective Release DPSGD
本文针对差分隐私随机梯度下降（DPSGD）中隐私核算不严谨的问题进行研究。DPSGD通过在梯度上添加噪声并裁剪梯度来保护隐私，但这会导致模型效用显著下降且收敛缓慢。先前的工作，特别是差分隐私选择性更新与释放（DPSUR）算法，通过选择性更新
IntraShuffler: A Privacy Preserving Framework for Heterogeneous DP Federated Learning
联邦学习（FL）中，异构差分隐私（HDP）允许客户端根据自身策略和数据敏感度选择不同的隐私预算（ε_i）。现有HDP-FL系统常采用ε感知的服务器聚合，通过根据客户端声明的隐私预算重新加权其梯度更新来提升模型效用。然而，联邦学习中的梯度更新
ContinuousBench: Can Differentially Private Synthetic Text Improve Capabilities?
差分隐私（DP）文本合成技术旨在通过生成合成数据来解锁敏感语料库，使其可用于模型训练，同时保护隐私。然而，现有评估基准存在重大局限性：它们使用的任务通常即使不经过训练也能近乎解决，因此强基准性能并不能证明DP合成数据能够替代原始数据访问。为
Accuracy for Differentially Private Quotients by Fractional Uncertainties.
该论文关注差分隐私查询中商数的准确性评估问题。差分隐私通过在统计查询中添加校准噪声来保护隐私，然而现有工具大多关注隐私保护本身，很少提供关于查询结果准确性的信息，尤其是对于数据依赖的计算（如平均值或差分隐私和的商）。本文提出了一种基于不确定
Differentially Private Datastore Generation for Retrieval-Augmented Inference
该论文研究面向检索增强推理的差分隐私数据存储生成问题。现代设备端AI系统常依赖检索增强推理，需要共享或发布数据存储（datastore），但可能泄露个体隐私。差分隐私（DP）提供形式化保证，使个体贡献在对抗分析下不可区分。本文提出一种基于哈
PE-means: Improved Differentially Private $k$-means Clustering through Private Evolution
本研究针对欧氏空间中差分隐私（DP）k-均值聚类问题展开。现有解决方案直接对原始数据进行加和，导致敏感度与数据域的大小成正比。本文提出PE-means方法，将私有进化（Private Evolution, PE）算法（一种在合成数据生成中日
Differentially Private Preference Data Synthesis for Large Language Model Alignment
本文提出 DPPrefSyn，一种用于生成差分隐私（DP）合成偏好数据的新算法，旨在保护大语言模型（LLM）对齐过程中的隐私。在偏好对齐的后训练阶段，使用真实人类偏好数据可能泄露敏感的用户提示和判断。DPPrefSyn 基于 Bradley
Local Differential Privacy with Correlated Noise Achieves Central-DP Optimal Cost
本文研究在诚实但好奇的服务器场景下，通过本地差分隐私（LDP）对 n 个用户持有的数值进行私有求和估计。传统上，本地差分隐私要求每个用户独立添加噪声，导致估计精度远低于集中式差分隐私（CDP）——后者在汇总数据后统一添加噪声。本文证明这一精
DP-SAPF: Saliency-Aware Parameter Fine-tuning of Public Models for Differentially Private Image Synthesis
该论文研究差分隐私（DP）图像合成问题，旨在从敏感数据集中生成保留统计特征的图像，同时提供严格的隐私泄漏保证。现有方法通常使用差分隐私随机梯度下降（DP-SGD）对公共模型进行全量微调，但公共模型参数数量庞大，导致计算成本高昂。近期工作启发
Optimal Rates for Differentially Private Hypothesis Testing with E-values
该论文研究了在差分隐私约束下，使用e值进行假设检验时的最优速率问题。E值作为一种灵活的工具，近年来在允许任意有效和自适应数据分析中受到广泛关注，其应用常涉及隐私或敏感数据。作者提出了一个核心问题：给定两个分布P和Q，在满足ε-差分隐私的e值
Mind the Gap: Mixtures of Gaussians in Approximate Differential Privacy
本文针对满足 (ε, δ)-差分隐私的标量实值查询函数，设计了一类加性噪声机制，特别关注中低隐私保护水平（即ε较大或δ较宽松）的场景。作者提出的“混合机制”（mixture mechanisms）通过混合多个高斯分布来构造噪声分布，这些高斯
General-Purpose f-DP Estimation and Auditing in a Black-Box Setting.
本文研究差分隐私（DP）的精细变体——f-差分隐私（f-DP）的统计评估与审计方法。f-DP通过一个函数f描述隐私损失，相较于标准ε-DP具有更紧的组合性质，但实际验证机制的隐私保证仍具挑战，尤其在黑盒场景下。现有f-DP审计方法通常需要预
Privately Estimating Monotone Statistics in Polynomial Time
该论文研究差分隐私下单调统计量的高效估计算法。单调统计量指随着新观测数据增加而单调变化的统计量（如分位数、累积分布函数等）。传统方法采用子采样-聚合（subsample-and-aggregate）框架：将数据集分成多个子块，分别计算统计量
Revisiting ML Training under Fully Homomorphic Encryption: Convergence Guarantees, Differential Privacy, and Efficient Algorithms
本文首次对全同态加密（FHE）下的机器学习训练进行了理论收敛性分析，并提出了一种结合差分隐私（DP）的训练算法，专为加密计算设计。该方法通过使用激活函数和损失函数的多项式近似（FHE兼容所必需）来证明近似梯度下降的收敛性，从而改进了标准差分
Beyond Epsilon: A Principled QIF Framework for Local Differential Privacy
本文针对本地差分隐私（LDP）协议缺乏系统化比较方法的问题，提出了基于定量信息流（QIF）的分析框架。当前LDP领域通常使用隐私预算ε作为隐私度量，但ε仅能约束最坏情况下的区分性；其他比较则依赖效用驱动分析，即针对给定隐私预算ε评估机制保留
Context-Aware Metric Differential Privacy for Vehicle Trajectory Data
该论文针对车辆轨迹数据发布中的隐私保护问题，提出了一种上下文感知的度量差分隐私（Context-aware mDP, C-mDP）框架。现有度量差分隐私（mDP）机制通常独立地扰动每个位置记录，忽略了轨迹数据中时间上相邻位置之间的上下文依赖
On Reliability of Efficient Membership Inference Vulnerability Evaluation
本文研究成员推理攻击（MIA）在评估模型训练数据泄露时的可靠性问题。MIA通过二分类器预测样本是否属于训练集，通常使用假阳性率（FPR）和真阳性率（TPR）衡量漏洞。然而，可靠估计低FPR下的TPR需要大量目标模型，计算成本高昂。为了降低开