Picture the Epsilon: Pursuing Identity-Level Privacy Guarantees for Images
本文聚焦于图像到图像的人脸生成器（如 FaceFusion、InstantID）的隐私审计问题。尽管视觉差异常被当作隐私保护证据，但作者指出这种直观判断缺乏形式化的身份级隐私保证。为此，他们提出一个统一的审计框架，比较四种适用于预训练黑盒人
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题An Adaptive Gradient Clipping and Noise Injection Mechanism for Differentially Private Federated Learning
本文提出了一种面向差分隐私联邦学习（DPFL）的自适应梯度裁剪与噪声注入机制 DDP-SA-adaptive。在联邦学习中加入差分隐私保护时，静态梯度裁剪在整个训练过程和所有模型层使用固定阈值，若阈值过小会导致过度裁剪而损失模型精度，若阈值
Synthesizing Probabilistic Saturating Counters with Differentially Private Formal Guarantees
现代处理器的分支预测器利用饱和计数器来提升指令级并行性，但传统饱和计数器是确定性的，容易受到侧信道攻击：攻击者可通过操作计数器状态并观察缓存行为（如Prime+Probe）推断受害进程的分支方向。为缓解该泄漏，已有研究提出概率饱和计数器（P
DP-Sniper: Black-Box Discovery of Differential Privacy Violations using Classifiers.
DP-Sniper 是一种实用的黑盒方法，用于自动发现差分隐私（Differential Privacy, DP）实现中的违规行为。差分隐私是保护数据隐私的严格数学定义，但实际实现常因浮点误差、算法简化或实现缺陷而违背其保证。DP-Snip
Towards Building a Responsible Data Economy.
该论文（实际为学术报告摘要）由 Dawn Song 撰写，聚焦于构建负责任的数据经济所需的关键技术与体系架构。文章指出，数据是现代经济与人工智能/机器学习发展的核心驱动力，但大量数据涉及敏感信息，其处理方式已对个人和企业造成前所未有的挑战，
Differential Privacy for Markov Chain State Trajectories
本文针对数据驱动系统中马尔可夫链状态轨迹的隐私泄露问题，提出了一种基于差分隐私的在线隐私化框架。在许多应用中，系统需要依赖马尔可夫链的状态轨迹（如产品信用风险、用户物理位置、上网行为等）进行决策，但这些轨迹往往包含敏感的用户信息。现有方法通
Private Anytime Selective-Risk Certification for Federated Retrieval-Augmented Generation: Guarantees and Empirical Limits
本文提出 Fed-SRC，一种面向联邦检索增强生成（Retrieval-Augmented Generation, RAG）的私有任意时间选择性风险认证框架。选择性风险证书的核心承诺是：所有被模型接受的输出都能满足预设的错误率目标。与以往依
PriDyG: Privacy-preserving Dynamic Graph Inference with LLM-GNN Collaboration
本文提出 PriDyG，一个面向动态图推断的隐私保护框架，旨在解决关系型数据上的图推断可能泄露敏感边信息的问题。在动态图中，模型反复更新会导致隐私损失累积，使得问题更加严重。作者形式化了边级差分隐私动态图推断（EDG）问题，并设计了一种结合
Noise-Aware Shrinkage for Differentially Private Zeroth-Order Fine-Tuning of Large Language Models
本文针对差分隐私零阶优化（DP-ZO）在大语言模型（LLM）微调中的局限性，提出了一种噪声感知的自适应收缩方法 SAGE。DP-ZO 仅利用前向传播评估即可实现内存高效的私有微调，是当前隐私保护 LLM 微调的重要技术路线。然而，现有基于聚
FedGSA: Geometry-Consistent Subspace Aggregation for Differentially Private Federated LoRA
本文提出 FedGSA，一种面向差分隐私联邦 LoRA 的几何一致子空间聚合框架。LoRA 通过低秩分解显著降低了联邦微调预训练语言模型的通信开销，但引入差分隐私后存在两个关键问题：对两个低秩矩阵分别扰动和聚合会导致聚合失配以及二次噪声项。
DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents
本文针对长期记忆型大语言模型（LLM）代理中的隐私泄露问题展开研究。作者指出，虽然用户从未明确陈述受保护属性（如健康状况、政治倾向等），但代理在多次交互中基于长期记忆生成的条件响应，可能累积性地泄露这些属性。作者将该威胁形式化为“自适应转录
DPGen: Automated Program Synthesis for Differential Privacy.
本文提出 DPGen，一种面向差分隐私（Differential Privacy, DP）的自动程序合成方法。差分隐私已成为以隐私保护方式发布数据的实际标准，但设计一个满足差分隐私的算法通常需要从无噪声（非私有）算法出发，由设计者手动决定在
Similarity Weighted Aggregation with Global Differential Privacy for Federated Brain Lesion Segmentation
本文提出了一种面向联邦学习场景的隐私保护框架 DP-SimAgg，用于解决医学影像中脑病灶分割任务。联邦学习允许多家医疗机构在不共享原始数据的情况下协作训练模型，但由于不同机构的数据分布存在异质性（非独立同分布），且模型更新可能间接泄露患者
Poster: End-to-End Privacy-Preserving Vertical Federated Learning using Private Cross-Organizational Data Collaboration.
本文来自 arXiv，研究跨组织纵向联邦学习中的隐私保护与模型精度权衡问题。在传统联邦学习中，各参与方本地持有数据，通过共享模型参数或更新信息来协作训练，并借助本地差分隐私（Local Differential Privacy）保护原始数据
StraightDP: Geometry-Aware Differential Privacy for Rectified-Flow Transformers
论文提出一种针对直方流（Rectified Flow）变换器的几何感知差分隐私训练方法StraightDP，旨在解决文本条件生成模型在强隐私约束下出现的效用悬崖（utility cliff）问题。作者重新审视了直方流的几何特性：在噪声到数据
Costs of Arbitrary Real Matrix Factorizations for Pure-DP Continual Counting
本文研究纯ε差分隐私（DP）下连续计数问题中任意实数矩阵分解的成本。设T_n为下三角前缀和矩阵，Laplace矩阵机制的因子化成本c_frob和c_two分别控制每坐标平方误差的均值和最大值。作者证明了对于任意符号、稀疏性和平方性限制，以及
Twilight: A Differentially Private Payment Channel Network.
该论文提出了 Twilight，一个差分隐私的支付通道网络。支付通道网络（PCN）作为区块链的扩容方案，通过链下交易提升吞吐量，但现有方案缺乏对交易金额和路径的强隐私保护。Twilight 引入差分隐私机制，通过在路由过程中注入受控噪声，并
ScoreShield: Differentially Private Release of Similarity Scores
本文提出 ScoreShield，一种差分隐私（DP）机制，用于安全发布向量嵌入之间的余弦相似度分数，适用于生物识别、检索增强生成（RAG）等应用。现有方法简单添加独立同分布高斯噪声会导致严重失真且隐私预算随分数数量平方级增长。ScoreS
To Shuffle or not to Shuffle: Auditing DP-SGD with Shuffling.
本文研究差分隐私随机梯度下降（DP-SGD）中，使用数据打乱（shuffling）替代传统泊松子采样（Poisson subsampling）时隐私保证的准确性。传统DP-SGD通过泊松子采样随机选择每轮训练批次，但打乱因计算开销低、兼容性
A Maximum Entropy Implementation of Differential Privacy Under Linear Invariants
本文针对差分隐私（Differential Privacy, DP）在实际部署中必须满足的聚合约束（也称为不变性）问题，提出了一种基于最大熵的差分隐私实现方法。在标准的差分隐私机制中，通常通过向查询结果添加独立的高斯或拉普拉斯噪声来保护个体