Edit-Neighboring Data Streams and Privacy under Continual Observation
本文研究持续观察（Continual Observation, CO）模型下的差分隐私（Differential Privacy, DP）问题。在CO模型中，敏感数据流随时间不断产生，算法实时发布输出，隐私损失随输出序列累积。传统CO隐私定
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题Pure-DP Statistical Query Release at the Conjectured Square-Root Rate
本文研究了纯差分隐私下统计查询释放的问题。Nikolov 和 Ullman 曾提出一个猜想：对于大小为 T 的域上的 k 个统计查询，是否存在一种纯差分隐私机制，其最坏坐标误差能够达到已知下界所暗示的平方根速率。本文证明了该猜想的上界成立。
End-to-End Differential Privacy in Training Deep Neural Network Classifiers
本文提出了一种端到端差分隐私（DP）训练框架，用于深度神经网络分类器。现有的DP机器学习方法通常同时对训练输入和标签进行隐私保护，但在标签可公开或可安全公开的场景下，这种保护过于保守。因此，作者提出仅对训练输入进行私有化，同时保持标签公开。
Private Approximation of Graph Spectra and Cuts via Spectral Amplifiers
本文研究在边级别差分隐私保护下发布合成图的问题，要求该合成图能近似原始输入图中所有切割的大小。作者提出一种多项式时间的 (ε,δ)-差分隐私算法，对于任意 n 顶点无权重图 G，输出一个非负权重合成图 Ĝ，使得对于任意切割 S，其权重误差以
RRAM-DP: Device-Calibrated Differential Privacy for In-Memory Edge Learning
本文提出了 RRAM-DP，一种面向边缘 AIoT 系统的硬件-算法协同差分隐私方法。边缘 AIoT 设备常收集敏感数据，隐私保护至关重要。电阻式随机存取存储器（RRAM）因其多比特存储和存内计算能力而成为高效 AIoT 的候选硬件，但其固
Optimal Domain-Aware Privacy Mechanisms for Synthetic Data Generation
本文研究了差分隐私（DP）在合成数据生成中的固有权衡：隐私保护与统计保真度之间的矛盾。现有方法虽然利用公共数据来改善这一权衡，但通常仅在预处理（如使用预训练生成模型）或后处理（如匹配从公共数据集估计的目标统计量）中间接使用公共数据，而依赖领
DP-Forward: Fine-tuning and Inference on Language Models with Differential Privacy in Forward Pass.
该论文提出了一种名为 DP-Forward 的新方法，旨在解决差分隐私随机梯度下降（DP-SGD）在语言模型微调与推理中的局限性。DP-SGD 通过在反向传播过程中向梯度添加噪声来保护训练数据免受隐私泄露（如成员推断攻击），但它无法防御推理
Fast and Private Max-Sum Diversification
该论文首次在差分隐私框架下研究结果多样化问题，聚焦于最大和多样化（MSD）模型。MSD旨在选择一组项目，最大化一个线性组合：子模函数（衡量相关性）与所选项目间成对距离之和（衡量多样性）。现有非私有方法在处理敏感数据时存在隐私泄露风险。作者提
Protecting Individual Identities in Wastewater Data Through Statistical and Differential Privacy Analysis.
该论文研究在污水监测数据中保护个体身份隐私的问题。污水监测广泛应用于公共卫生领域，如检测药物滥用或传染病爆发，但原始数据可能包含可追溯至个人的敏感信息（例如特定社区的用药模式）。作者提出结合统计隐私技术和差分隐私（Differential
Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning
该论文提出了一种新的群体公平性度量方法——Privacy-Cost Equity Ratio (PCER)，用于评估差分隐私（DP）机器学习系统中的群体公平性。传统的公平性度量主要关注模型输出（如准确率）在不同群体间的差异，但忽略了隐私成本
Is External Database Protection Static in Retrieval-Augmented Generation? Rethinking Privacy Preservation under Dynamic Queries
检索增强生成（RAG）通过外部文档检索增强大型语言模型的能力，但检索到的上下文可能泄露敏感信息。现有隐私保护方法通常基于文档级静态风险假设，即认为所有检索文档具有相同的隐私泄露风险。然而，这一假设忽略了RAG的一个基本特征：文档的隐私风险高
Cross-silo Federated Learning with Record-level Personalized Differential Privacy.
该论文研究了跨孤岛联邦学习（FL）中的记录级个性化差分隐私（DP）问题。现有方法通常假设所有记录具有统一的隐私预算，提供“一刀切”的解决方案，无法满足每条记录特定的隐私需求。作者提出了一个名为rPDP-FL的新型框架，采用两阶段混合采样方案
Better Privacy Guarantees for Larger Groups
本文研究了一个差分隐私中的基础问题：是否可以对较大的组提供更强的隐私保障？Pujol和Desfontaines曾提出，在发布直方图时，是否可以允许对大计数有更大的误差，从而利用这一松弛来更强地保护大组成员。本文在固定不相交组以及“添加或删除
Plausible Deniability Guarantees for Whistleblowers
该论文针对举报人保护问题，提出了一种基于差分隐私的审计选择机制，旨在防止组织通过观察审计选择来识别举报人。现有方案缺乏正式隐私保证，而差分隐私机制也未直接针对这一自然威胁模型。作者首先形式化了强敌手威胁模型下的每报告（per-report）
ReBound: Reuse-Aware Privacy For Interactive Decision Support
该论文提出了一种名为 ReBound 的差分隐私决策支持框架，旨在解决交互式查询中隐私预算浪费的问题。传统的差分隐私机制将每个查询视为独立事件，不记忆历史结果，导致重复或相关查询消耗过多隐私预算。ReBound 通过引入缓存结果复用机制，允
Privacy Preserving Recommender Systems Balancing Personalization with Privacy
本文提出并评估了一个隐私保护的推荐系统框架，旨在解决传统推荐系统依赖集中存储用户交互数据所带来的隐私与合规挑战（如GDPR、CCPA、CPRA）。该框架结合了联邦学习、差分隐私、群体级建模和隐私感知智能体：联邦学习保持原始用户数据分散在本地
From Easy to Hard: Building a Shortcut for Differentially Private Image Synthesis.
差分隐私图像合成旨在从敏感数据集中生成合成图像，缓解组织共享和使用合成图像时的隐私泄露问题。现有方法（如使用差分隐私随机梯度下降训练扩散模型）虽然取得进展，但性能仍不理想。受课程学习启发，本文提出一种两阶段差分隐私图像合成框架，让扩散模型从
Federated Learning Architecture: Data Privacy and System Security Approaches
该研究针对联邦学习（FL）系统中的数据隐私与安全性问题，提出了一种结合同态加密（HE）和差分隐私（DP）的架构。联邦学习允许数据保留在本地设备上，避免了集中式数据收集，但模型更新过程中仍可能泄露敏感信息。同态加密使得在加密数据上直接进行计算
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
该论文针对差分隐私（DP）合成表格数据中的公平性问题进行了首次系统性基准评估。研究背景是机器学习模型在高风险领域（如金融、医疗）的部署日益普遍，隐私和公平性成为关键关注点。差分隐私已成为隐私保护数据分析的金标准，而公平性机制旨在减轻对弱势群
Continual Learning With Participation Privacy: An Auditable Buffering-Aggregation Recipe
该论文研究了持续学习中参与隐私（Participation Privacy）的挑战。在联邦学习和流式学习场景中，模型通常持续更新并释放中间模型，因此隐私保护需要覆盖整个动态交互轨迹。作者针对单次编辑（single-edit）相邻用户流这一模