Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
本研究针对 AI 驱动的教育系统在隐私保护与准确认知诊断之间难以兼顾的显著挑战，提出了一种隐私保护的多 LLM 联邦推理框架。传统方法通常需要集中学生原始数据或直接访问商业模型内部，导致隐私风险。该框架允许多个商业 LLM API（例如 L
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题S-BDT: Distributed Differentially Private Boosted Decision Trees.
本文提出 S-BDT，一种新颖的 (ε, δ)-差分隐私分布式梯度提升决策树（GBDT）学习器。研究核心问题是在分布式机器学习环境中，如何在不牺牲模型效用（如准确率或回归误差）的前提下，增强对单个训练数据点的隐私保护。传统差分隐私方法通常通
Differentially Private Paired Table-Image Multimodal Synthesis
本文研究差分隐私（DP）下的成对表格-图像多模态数据合成问题。在医疗、金融等真实场景中，常存在图像与结构化表格记录配对的数据，但现有DP合成方法多数只单独处理表格或图像，难以同时保证两种模态的保真度以及跨模态依赖关系。针对这一挑战，作者提出
Private Computation Space: Experience with Trusted Multi-Cluster Federated Learning for Agriculture
本文提出并部署了名为 Private Computation Space (PCS) 的开源机器学习系统，用于在保护农户数据隐私的同时实现农业领域的联邦学习。研究背景指出，尽管人工智能有潜力改善农业实践，但采用率有限，69%的美国农民因数据
DP-VOXLET: Provable Speaker Anonymization for Disentangled Speech Representations
本文提出了一种名为 DP-VOXLET 的说话人匿名化方法，旨在解决语音数据发布中的隐私保护问题。说话人匿名化的目标是在隐藏说话人身份的同时，保留话语的语义内容和韵律特征。现有方法通常基于解耦表示学习，将语音编码为语义内容与说话人属性两部分
Bounds on the Posterior-to-Prior Ratios for Inclusion Belief under Bounded Differential Privacy
差分隐私已成为隐私保护数据发布的标准技术，但其与具体披露风险之间的关系并不直观。特别是在成员推理场景下，一个对手在观察到差分隐私保护后的发布数据时，其对某个目标个体是否被包含进数据集的信念（后验信念）相比先前信念（先验信念）会发生多大变化，
GAP: Differentially Private Graph Neural Networks with Aggregation Perturbation.
本文提出 GAP（Aggregation Perturbation），一种面向图神经网络（GNN）的差分隐私（Differential Privacy, DP）训练方法。现有 DP-GNN 方法通常在梯度、嵌入或模型参数上添加噪声，但这种方
Camel: Communication-Efficient and Maliciously Secure Federated Learning in the Shuffle Model of Differential Privacy.
联邦学习（FL）是一种允许多个客户端在不共享原始本地数据的情况下，仅通过共享梯度更新联合训练模型的范式。然而梯度更新本身也可能泄露隐私。现有方法通常采用本地差分隐私（LDP）机制，在共享前由客户端本地扰动梯度，但这类方法会因添加大量噪声而严
PAC-Private Algorithms.
该论文针对机器学习算法在实践中缺乏严格隐私保证的问题，提出应用近期提出的 Probably Approximately Correct (PAC) Privacy 框架，为多种常用黑盒算法（K-Means、支持向量机 SVM、主成分分析 P
DPImageBench: A Unified Benchmark for Differentially Private Image Synthesis.
本文针对差分隐私（DP）图像合成领域日益凸显的评估协议不一致、甚至存在缺陷的问题，提出了一个统一基准平台 DPImageBench。研究背景是：DP 图像合成旨在生成既能保留敏感图像数据集统计特性、又能保护单张图像隐私的人工图像，但不同研究
Online Differentially Private Consistent Clustering
本文研究在线流式设置下的差分隐私（DP）k-means 与 k-median 聚类问题。在在线场景中，数据点按顺序持续到达，算法需在每个时间步基于已见数据输出一组 k 个中心，以最小化聚类代价（如 k-means 的平方距离和或 k-med
Memorization Is Not Extraction: Tight Differential-Privacy Bounds and Audit Blind Spots
本文研究大语言模型（LLM）中记忆与提取现象的度量问题。长期以来，模型记忆的定义繁多且关系不明，差分隐私（DP）常被当作同时控制所有记忆形式的统一代理。作者针对实际应用中最重要的两类定义——反事实记忆（counterfactual memo
Revisiting Continuous Noise Sampling for Multi-Party Differential Privacy
这篇论文重新审视了多方差分隐私（DP）中连续噪声采样的协议。在多方计算（MPC）与差分隐私结合的场景下，各方需要在不依赖可信中心的情况下发布聚合统计，其核心原语是在有限精度算术下从连续分布中采样噪声。作者首先识别了广泛使用的“采样-缩放”（
SecureDrive-FL: Joint Differential Privacy and Gradient-Aware Selective Homomorphic Encryption for Federated Driver Monitoring
该论文针对联邦学习（FL）中梯度更新面临的两类安全威胁：传输过程中的中间人（MitM）窃听，以及恶意客户端发起的模型投毒攻击。传统方案要么对所有参数统一加密（如静态分层或全参数CKKS），计算开销大且不区分敏感度；要么仅依赖差分隐私（DP）
Selective MPC: Distributed Computation of Differentially Private Key-Value Statistics.
键值（key-value）数据是一种自然存在的数据类型，例如用户对Web服务、商品或特征的评分，但在本地信任模型下尚未得到深入研究。现有的本地差分隐私（LDP）方案在计算键值统计数据时，由于每个用户独立添加噪声，导致最终统计结果的精度受到严
Pointing the Way, Hiding the Destination: Practical Private Dense Retrieval at Scale
本文提出了一种实用的私有密集检索方案，用于托管式检索增强生成（RAG）和语义搜索场景。研究背景是：用户希望查询提供方持有的有价值的语料库，但存在两个相互矛盾的需求：一方面需要隐藏用户的查询和最终选择的结果，另一方面又只能向用户展示其被授权访
Approximate Algorithms for Verifying Differential Privacy with Gaussian Distributions.
本文针对使用高斯分布的差分隐私算法的验证问题展开研究。现有形式化验证方法在处理连续分布（尤其是高斯分布）时面临精度和可判定性挑战。作者提出了一种新颖的近似方法，用于逼近无循环程序的概率分布，这些程序可从具有可计算概率密度函数的离散和连续分布
Poster: Secure and Differentially Private kth Ranked Element.
该论文研究多方协作场景下的第 k 个排序元素（kth Ranked Element, KRE）安全计算问题。在金融、医疗等机构的联合数据分析中，经常需要在不暴露各方原始数据的前提下，找出合并数据集中第 k 大的元素（例如中位数、分位数等）。
One-Sided Bounded Noise: Theory, Optimization Algorithms and Applications.
本文研究在隐私保护统计发布中使用单侧（仅正向）有界噪声的最优效用与隐私权衡问题。与传统依赖对称或双侧扰动的隐私机制不同，实际系统（如匿名通信、侧信道防御）常因硬件容量、通信协议或数据管理限制，只能施加正向且幅度有限的时间延迟、假消息或假数据
Decisive Margins in Differentially Private Voting
差分隐私通过向输出注入随机噪声来保护个人数据隐私，但在选举等场景中，噪声可能导致错误结果，尤其是当胜负差距很小时。本文系统研究了在中央差分隐私和本地差分隐私模型下，多种常见投票规则（包括 Plurality、Condorcet、Maximi