Convergent Privacy Framework for Multi-layer GNNs through Contractive Message Passing.
本文提出CARIBOU框架，一种面向多层图神经网络的隐私保护方案。核心创新在于将收缩图层（Contractive Graph Layer, CGL）与收敛隐私会计相结合，实现边缘级差分隐私（EDP）和节点级差分隐私（NDP）下的深度聚合，同
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题PrivCode: When Code Generation Meets Differential Privacy.
该论文提出了PrivCode，这是首个专门为代码数据集设计的差分隐私（DP）合成器，旨在解决大型语言模型（LLM）在代码生成时微调私有数据集可能引发的隐私泄露问题。传统的DP方法在代码数据上面临语法依赖强和隐私-效用权衡的挑战。PrivCo
Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference.
本文研究了大型语言模型（LLM）推理过程中键值缓存（KV-cache）带来的隐私风险。KV-cache是LLM中用于加速自回归解码的关键组件，它会存储中间注意力层的键和值张量。作者发现，KV-cache中可能残留用户输入的敏感信息，例如个人
PrivATE: Differentially Private Average Treatment Effect Estimation for Observational Data.
因果推断在多个科学研究领域扮演关键角色，其中平均处理效应（ATE）的估计是核心问题之一。然而，使用真实世界观测数据计算ATE会带来显著的隐私风险。差分隐私作为一种严格理论保证的隐私保护技术，已成为隐私保护数据分析的标准方法。但现有的差分隐私
Augmented Shuffle Differential Privacy Protocols for Large-Domain Categorical and Key-Value Data.
该论文提出了一种名为FME（Filtering-with-Multiple-Encryption）的增强型洗牌差分隐私协议，用于解决大规模分类数据和键值数据统计估计中的隐私保护问题。传统的洗牌差分隐私协议虽然能提供高精度和隐私保护，但容易受
PrivORL: Differentially Private Synthetic Dataset for Offline Reinforcement Learning.
该论文提出了PrivORL，这是首个将差分隐私（DP）应用于离线强化学习（RL）数据集合成的方法。离线RL通过共享预收集的轨迹或过渡数据来训练智能体，避免与环境的直接交互，在导航等关键任务中有效。然而，数据集可能包含敏感信息，存在隐私泄露风
Graph Reconstruction from Differentially Private GNN Explanations
该论文研究了从差分隐私（DP）保护的图神经网络（GNN）解释中重建隐藏图结构的安全风险。虽然差分隐私通常被视为发布解释时降低隐私风险的标准手段，但作者证明了仅依赖DP并不足够：攻击者仅观察到经过DP扰动的GNN解释，就能以高精度重建原始图结
Differentially Private Runtime Monitoring
该论文研究了在隐私敏感环境中，运行时监控系统如何保护敏感信息的问题。现代基于流的监控器会收集被观测系统运行时的详细统计数据，这些数据可能泄露隐私。差分隐私是保护敏感信息的先进方法，但将其集成到运行时监控中面临挑战：时序算子会导致单个输入值随
Privacy Preserving Machine Learning Workflow: from Anonymization to Personalized Differential Privacy Budgets in Federated Learning
本文针对联邦学习中的隐私保护问题，提出了一套完整的隐私保护机器学习工作流，专注于敏感表格数据。首先，结合匿名化与差分隐私技术，在数据层面和模型训练层面提供隐私保障。其次，对客户端漂移（client drift）给出了正式定义，并设计了检测方
Optimal Privacy-Utility Trade-Offs in LDP: Functional and Geometric Perspectives
该论文研究本地差分隐私（LDP）下的最优隐私-效用权衡（PUT）问题。现有方法往往针对特定问题进行案例分析，缺乏统一理论框架。作者提出一个通用理论框架，系统刻画了一般隐私保护统计决策问题中的最优PUT和最优LDP通道。首先，他们识别了贝叶斯
LAPRAS : Learning-Augmented PRivate Answering for linear query Streams
本文研究在线差分隐私（DP）线性查询流回答问题，针对数据库工作负载中查询流高度可预测的特点（即重复任务和模板主导，即使到达顺序未知），提出了一种学习增强型差分隐私算法LAPRAS。核心思想是利用预测来指导隐私预算分配：假设存在一个预言机，输
Secure Cross-Silo Synthetic Genomic Data Generation
本文针对基因组数据的高度敏感性和访问限制，提出了一种跨机构安全合成基因组数据生成方法。由于基因组数据的隐私性，数据共享受到严格监管，阻碍了AI在基因组学中的发展。合成数据生成通过训练生成模型并采样保留相关统计信息的人工数据，可以在不泄露个体
Differentially Private Contrastive Learning via Bounding Group-level Contribution
该论文聚焦于差分隐私（DP）对比学习中的隐私-效用权衡问题。现有的DP对比学习方法因标准对比目标中样本间固有的强依赖性而遭受严重的效用退化：每个样本的梯度依赖于批次中的所有其他样本，这放大了DP噪声的影响。作者指出，有效的DP对比学习需要显