本地差分隐私（LDP）协议容易受到操纵攻击，攻击者通过篡改本地数据或随机性来破坏统计估计的准确性。现有早期工作通过将每个样本转化为二元信号来限制攻击者能力，但这种方法在ε>1时导致严重的信息损失，牺牲了数据效用。本文提出了一种攻击无关的通用防御框架RobustLDP，旨在无需了解攻击者知识的情况下实现鲁棒估计。核心思想是：服务器向所有用户发送精心设计的预定义信息（例如一个公共随机种子），用户根据该信息结合自身数据生成响应，服务器再聚合反馈进行估计。通过这种方式，框架在保留信息与限制攻击者能力之间取得了更好的平衡。作者将RobustLDP实例化为频率估计和均值估计（在ℓ1和ℓ2支持上）两个基础任务，这些可作为更高级任务的构建模块。理论分析表明，对于所有可能的攻击，该方法都能提供一定的估计误差上界保证。实验在多个真实数据集上验证了RobustLDP的效用：与基线方法相比，在ε>1时，估计精度显著提升，且对操纵攻击的鲁棒性更强。本文是首个在攻击无关假设下同时实现高鲁棒性和高数据效用的LDP框架。

本文研究了本地差分隐私（LDP）中的基本估计问题。现有估计方法分为两类：无偏估计方法在LDP下由于添加过多噪声，往往给出不合理结果（如负值或估计值之和与参与用户总数不相等）；而基于最大似然估计（MLE）的方法虽能给出合理结果，但常面临过拟合问题。为了解决这一挑战，作者受高斯混合模型（GMM）启发，提出了一种还原框架。该框架将LDP估计问题转化为混合模型的密度估计问题，通过合并混合模型中权重最小的分量，使EM算法收敛更快，生成更稳健的分布估计。实验表明，该方法在均值估计、分类分布估计和数值分布估计方面均优于现有方法。论文主要贡献包括：提出通用高效的建模框架，适用于多种LDP协议；通过理论分析和实验验证了方法的优越性。适合数据隐私领域的研究人员和工程师阅读。

该论文针对苹果公司在其本地差分隐私（LDP）系统中使用的Count Mean Sketch（CMS）机制进行了实际的隐私保证量化研究。苹果的CMS用于从用户设备收集使用数据，其宣称的隐私保证基于ε=4的LDP模型。然而，作者指出该保证仅在单次上报的孤立场景下成立，而现实系统中同一用户会多次上报数据，且不同用户之间可能存在关联。为了评估实际隐私风险，作者提出了池推理攻击（pool inference attacks），该攻击利用攻击者拥有的辅助信息（如用户的部分真实数据）以及观察到的多次CMS上报，通过统计推断来恢复用户的其他敏感属性。实验使用了苹果官方报告中公开的参数（如m=256, h=2, ε=4），并基于模拟数据和真实分布进行评估。结果显示，在苹果部署的参数下，池推理攻击的成功率远高于理论预期：例如，当攻击者已知用户一个hash值对应的位置时，能准确推断出另一个hash值对应的真实值，导致实际隐私损失远超ε=4的理论界限。这表明苹果的CMS机制在实践中无法提供所声称的强隐私保证，尤其对于长期或频繁上报的用户。论文的主要贡献包括：1）首次系统性地对苹果CMS进行实际隐私量化；2）提出池推理攻击框架，可推广到其他LDP机制；3）揭示了理论隐私模型与真实风险之间的差距，呼吁重新评估LDP部署中的参数选择。该研究对隐私保护实践、差分隐私部署的安全性以及监管合规具有重要警示意义。

本文研究在诚实但好奇的服务器场景下，通过本地差分隐私（LDP）对 n 个用户持有的数值进行私有求和估计。传统上，本地差分隐私要求每个用户独立添加噪声，导致估计精度远低于集中式差分隐私（CDP）——后者在汇总数据后统一添加噪声。本文证明这一精度差距并非本质性的：通过精心设计用户间本地噪声的相关性，可以构造满足 ε-差分隐私的机制，使得求和估计的均方误差（MSE）与集中式设置中可达到的最优值任意接近。具体地，作者提出一种基于相关噪声的 LDP 机制，其估计成本（MSE）与 CDP 最优成本仅相差任意小的常数倍，从而在理论上确立了 LDP 可以无损达到 CDP 的效用。该结果挑战了 LDP 必然导致高噪声损失的普遍认知，为设计高效本地隐私保护聚合协议提供了新的理论框架。论文属于理论性研究，适合对差分隐私、统计推断和隐私计算理论感兴趣的学者。

局部差分隐私（LDP）作为分布式数据收集的基元，其严格的噪声注入要求常导致数据效用严重下降。传统LDP机制是任务无关的，在所有维度上均匀施加噪声，忽略了不同维度对下游任务的相对重要性。本文提出一种新颖方法，在数据表示的任务相关子空间中减轻噪声。该方法通过下游公共模型的雅可比矩阵识别任务关键子空间，沿这些维度选择性地衰减噪声，并将标准LDP的各向同性噪声重塑为各向异性分布。该方法在保持每维度隐私预算均匀的同时，跨维度异质地调制噪声影响，从而显著提升数据效用。此外，该方法可推广到线性和非线性模型，并能无缝集成现有机制。在CIFAR-10-C（最高严重度等级5的亮度损坏）上的大量实验表明，在ε=7.5时，集成该方法使PrivUnit2和PrivUnitG的效用提升约20%。源代码已公开。

局部差分隐私（LDP）是一种允许用户扰动数据以提供合理否认性的隐私保护技术，但这也使其容易受到投毒攻击。本文首次提出针对排名估计的新型投毒攻击。与简单的频率调整不同，攻击者利用有限数量的假用户精确修改物品频率，从而改变排名以最大化收益。为了应对这一挑战，作者引入了攻击成本和最优攻击物品（集合）的概念，并针对kRR、OUE和OLH三种LDP协议提出了相应策略。对于kRR，采用迭代选择最优攻击物品并分配假用户的方法；对于OUE，迭代确定最优攻击物品集并考虑不同集合间频率的增量变化；对于OLH，基于哈希的原像开发了调和成本函数以支持更多有效攻击物品。此外，还提出了一种基于置信水平的攻击策略，更精确地量化攻击成功概率和迭代次数。通过理论和实验证据证明了攻击的有效性，强调了防御的必要性。代码和数据已开源。本文适合隐私保护、差分隐私安全及数据投毒防御领域的研究人员阅读。

本文提出了一种针对本地差分隐私（LDP）框架下频率估计与未知项发现问题的优化方法。首先，作者提出了广义计数均值草图（GCMS）协议，该协议统一了多种现有频率估计协议，并显著改进了通信、隐私和准确性之间的三方权衡。在此基础上，基于通用效用分析框架，进一步提出了最优计数均值草图（OCMS）协议，专门为目标频率项收集场景最小化方差。针对未知数据域（即数据项的集合未知）的问题，作者提出了一种新协议，结合稳定性直方图技术和加密-洗牌-分析（ESA）框架，利用辅助服务器在不访问原始数据消息的情况下构建直方图。该协议在实现类似中心化DP模型的精度的同时，提供了本地化的隐私保证，并大幅降低了计算成本。实验表明，所提方法在通信效率、隐私保护强度和估计准确性上均优于现有方案。

本文系统研究了本地差分隐私（LDP）协议在面对恶意操纵时的基本局限性。本地差分隐私是一种广泛研究的分布式算法约束，用于收集敏感用户数据的聚合统计，目前已部署在多个大型系统中。作者指出，尽管任何算法都可能被谎报输入的对手操纵，但非交互式本地差分隐私协议在隐私级别高或域规模大时，操纵空间显著增大：协议中一小部分恶意用户就可以完全掩盖诚实用户输入的分布。为了应对这一威胁，作者构建了针对本地差分隐私中多种常见任务（如频率估计、均值估计等）的最优鲁棒性协议，这些协议在存在操纵攻击时能保持最大程度的准确性。此外，通过简单实验验证了理论结果，并展示了在无操纵环境下最优的协议在抗操纵鲁棒性上可能存在巨大差异。研究结果建议在部署本地差分隐私时需谨慎，并强调了通过高效密码学技术分布式模拟中心化差分隐私机制的重要性。本文核心贡献包括：(1) 首次系统研究LDP协议的操纵攻击理论局限性；(2) 提出并证明了操纵攻击对LDP协议的影响下界；(3) 设计了针对常见任务的最优鲁棒协议；(4) 实验验证了理论发现。适合从事隐私保护、差分隐私、安全协议设计的研究人员和工程师阅读。