$π$-RAG: Oblivious Retrieval via Semantic Quantization and Transcendental Addressing for Large Language Models
本文提出了一种名为 π-RAG 的新型架构，旨在解决传统检索增强生成（RAG）系统中向量嵌入暴露于潜在反转攻击和非确定性检索失败的问题。核心创新在于利用数学常数 π 的数字作为超然熵源，构建一个不可变的间接层，将大型语言模型（LLM）与敏感
#differential-privacy
共收录 193 条相关情报。
← 返回所有主题On the Curse of Dimensionality in Private Sparse Covariance Estimation and PCA
本文研究高维差分隐私（DP）下的协方差矩阵估计和主成分分析（PCA）问题，重点关注协方差矩阵的k-行-列稀疏性（k-RCS）假设。在非私有设置中，已知仅需poly(k, log d)个样本即可解决这两个问题。然而，在DP设置下，现有的最好结
AdaPrivate-TS: Private Thompson Sampling for Contextual Bandits with Privacy Amplification
本文提出 AdaPrivate-TS，一种结合了差分隐私与汤普森采样的上下文多臂赌博机算法。关键洞察在于，差分隐私噪声会以结构化方式膨胀后验协方差：向观测向量b添加高斯噪声N(0,σ²I)后，采样协方差变为v²A⁻¹ + σ²A⁻²，汤普森
Enhancing Differentially Private Mechanisms via Empirical Bayes
差分隐私已成为保护机器学习与统计算法隐私安全的事实标准。虽然已有大量算法致力于在保持同等隐私预算的前提下提升数据效用，但这些方法往往过于复杂或计算效率低下。本文提出了一种新颖且简洁的后处理去噪方法：受经验贝叶斯估计启发，直接对简单加性高斯机
Differential Privacy of Gaussian Process Posterior Sampling
本文研究了在高斯过程（GP）后验采样中释放样本路径的隐私保护问题，其中整个训练集（包括协变量和响应）被视为私密信息。与传统差分隐私（DP）机制通过添加外部噪声不同，后验采样本身具有随机性。作者证明这种内在随机性能够提供差分隐私保证，具体通过
Your Privacy My Cloak: Backdoor Attacks on Differentially Private Federated Learning
本文挑战了“差分隐私（DP）能够天然增强联邦学习（FL）抗后门攻击鲁棒性”的普遍假设。通过实证分析两种基线攻击策略，作者发现DP-FL中存在根本性矛盾：若攻击绕过DP，现有先进防御能够有效检测并过滤恶意更新；但若攻击遵守DP约束，DP的噪声
Cross-Silo De-Anonymization Under Local Differential Privacy: Threat Model, Phase Transition, and Coordination Necessity
本文研究在本地差分隐私保护下，跨多个独立数据孤岛的去匿名化攻击威胁。当一个人的记录出现在k个各自满足(ε,δ)-差分隐私的孤岛中时，标准组合机制提供(kε, kδ)-DP保证，但这一最坏情况边界无法回答具体推断问题：在多大的k下，攻击者能实
Multi-tier Differential Private Query Release
该论文提出了一种面向多层级差分隐私查询发布的全新框架。在现实场景中，同一统计查询可能被多个分析师发起，但由于信任等级或支付意愿不同，每个分析师获得的答案需在差异化的隐私预算下生成。现有方法要么导致过高的累积隐私损失，要么在效用上表现欠佳。为
Differentially Private Submodular Maximization with a Knapsack Constraint
本文研究了在背包约束下进行子模最大化的差分隐私问题（SMK），这是离散优化中的基础问题，广泛应用于机器学习等领域。随着这些应用涉及越来越多的敏感个体数据，对具有形式化隐私保证的高效用算法需求日益增长。本文考虑了单调和非单调目标函数。对于单调
Differentially Private Hierarchical Heavy Hitters
本文提出并研究了在差分隐私保护下释放层次重击者（Hierarchical Heavy Hitters, HHH）的问题。层次重击者是经典重击者问题的推广，最早由Cormode等人在VLDB 2003中引入，用于在数据流中识别在层次结构上显著
A Fast Gaussian Mechanism under Continual Observation, with Applications
本文研究持续观察下私有化发布k维向量更新的问题。初始向量为零向量，在时间点t_i上通过添加x^{(i)}进行更新，其中t_i∈[T]，x^{(i)}在k维单位球B_k内。两个数据集被认为是相邻的，如果它们的对称差大小不超过1。持续发布需要在
Privacy-Preserving Federated Autoencoder for ECG Anomaly Detection on Edge Devices
该论文提出并评估了一个端到端的联邦学习系统，用于在边缘设备上进行无监督的12导联心电图异常检测。系统结合了三种自编码器架构（VanillaAE、ConvAE、VAE），基于Flower框架实现跨十个模拟医院的联邦平均聚合，并集成客户端差分隐
Fully Oblivious Differential Privacy for Frequency Estimation in the Augmented Shuffle Model with Trusted Processors
本文针对差分隐私（DP）的 shuffle 模型中存在的信任问题展开研究。在标准 shuffle 模型中，一个 shuffle 器随机排列用户数据以实现高精度和隐私保护。然而，近期研究表明大多数现有 shuffle 协议容易遭受数据收集者与
EnclaveScale: Hardware-Assisted Edge-DP for Secure Data Centre Power Telemetry
本文提出 EnclaveScale，一种分布式硬件辅助遥测架构，旨在解决数据中心电源遥测中传感器数据伪造和隐私泄露问题。现有加密技术对高频率（如10 Hz）流式数据扩展性差，且无法认证数据源，允许恶意主机注入虚假传感器输入。EnclaveS
PrivCode++: Latent-Conditioned Differentially Private Code Generation for Comprehensive Guarantees
大型语言模型在指令-代码对上进行微调时，可能会记忆并泄露敏感的训练数据。现有的差分隐私（DP）代码生成方法主要保护代码片段，但假设提示（prompt）是公开的，这无法应对现实场景中提示也可能包含敏感信息的情况。当提示在生成过程中不能被显式学
Asymptotic Optimality of the High-Dimensional Gaussian Mechanism and Improved Low-Dimensional Mechanisms for Differential Privacy
该论文研究了差分隐私中用于T维实数向量查询的加性噪声机制。高斯机制因其简单性和强隐私保证而成为最广泛使用的机制。本文首先证明，当维度T趋于无穷大时，在强隐私设置下，没有任何加性噪声机制能够渐近地改善高斯机制的隐私-效用权衡，从而为高斯机制的
Differentially Private Range Subgraph Counting
本文首次研究了差分隐私下的范围子图计数问题（DPRSC）。子图计数是图分析中的基本问题，传统方法通常计算整个图中特定模式的出现次数。然而，实际应用常需对由多维属性范围选中的顶点诱导子图进行查询，同时保护隐私。差分隐私子图计数面临重大挑战：子
DP4SQL: Differentially Private SQL with Flexible Privacy Policies
该论文提出 DP4SQL，一个支持灵活隐私策略的差分隐私 SQL 系统。现有差分隐私 SQL 系统仅支持固定的隐私策略，例如所有表都必须保护记录存在性或内容，无法处理混合隐私需求（如部分公开列、不同字段不同保护级别）。DP4SQL 允许数据
Sort, Partition, Randomize: Optimal Binary Hypothesis Testing under Local Differential Privacy
该论文研究在本地差分隐私（LDP）约束下进行二元假设检验的最优机制设计问题。具体场景是：每个观测数据从大小为 k 的有限字母表中抽取，服从两个已知分布 P0 或 P1 之一，先通过一个 ε-本地差分隐私机制 Q 进行私有化，再基于私有化后的
Evaluating the Usability of Differential Privacy Tools with Data Practitioners.
本文评估了四种Python开源差分隐私工具（DiffPrivLib、Tumult Analytics、PipelineDP和OpenDP）的可用性。研究背景是差分隐私（DP）已成为隐私保护数据分析的黄金标准，但在实际数据集和系统中实施仍具挑