#local-differential-privacy

共收录 15 条相关安全情报。

← 返回所有主题
👥 作者: Xiaochen Zhu 0003, Vincent Y. F. Tan, Xiaokui Xiao

该论文提出了一种名为 Blink 的框架,用于在图神经网络(GNN)训练中实现链路本地差分隐私(Link Local Differential Privacy)。研究背景是:GNN 在节点嵌入学习与图推理任务中表现出色,但训练过程可能泄露节点间的敏感关联信息。为缓解此问题,作者采用去中心化节点上的链路本地差分隐私机制,使得节点能够与不可信服务器协作训练 GNN,同时保证任何链路的存在性不被泄露。核心方法是:将隐私预算分别分配给图的链路和节点度信息,并利用贝叶斯估计在图拓扑上进行去噪,以减轻本地差分隐私(LDP)对 GNN 训练精度的负面影响。作者严格推导了推断链路概率与真实图拓扑之间的平均绝对误差上界。在此基础上,提出了两种互补的 LDP 机制变体:第一种在低隐私预算下估计较少链路,以避免在高不确定性时产生误报链路;第二种利用更多信息,在相对较高的隐私预算下表现更佳。此外,还提出了一个混合变体,结合两种策略并在不同隐私预算下均获得更好性能。大量实验表明,在不同隐私预算下,所提方法在精度上优于现有基线方法。该研究为隐私保护图学习提供了新的技术路径,适合对差分隐私、图神经网络及隐私保护机器学习感兴趣的研究人员阅读。

💡 推荐理由: 该工作为图结构数据的本地差分隐私提供了更精确的链路去噪方法,有助于在社交网络、推荐系统等场景中安全地训练GNN,减少隐私泄露风险,对蓝队评估隐私保护机制有参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Yongji Wu, Xiaoyu Cao, Jinyuan Jia 0001, Neil Zhenqiang Gong

本文研究了针对键值数据本地差分隐私(LDP)协议的投毒攻击问题。在LDP协议中,不可信的服务器通过收集用户扰动后的数据来执行隐私保护的联邦分析,而无需信任用户。已有的LDP协议覆盖分类、数值和键值等数据类型,但由于分布式设置,攻击者可以通过伪造用户并发送精心构造的虚假数据来操纵服务器的聚合结果,即投毒攻击。以往的研究主要针对简单数据类型的LDP协议,对键值数据LDP协议的安全性尚未深入探索。本文首次系统性地提出了针对键值数据LDP协议的投毒攻击。在此类协议中,服务器同时估计每个键的频率和均值,每个用户持有一组键值对。攻击者的目标是同时最大化攻击者选定目标键的频率和均值。由于涉及两个优化目标,作者将攻击建模为双目标优化问题,并提出一种近似求解方法,从而确定伪造用户应向服务器发送的最优虚假数据。作者从理论和实验两方面验证了攻击对三种代表性的键值数据LDP协议的有效性,并探讨了两种防御方法。实验表明,这些防御在某些场景下有效,但在其他场景下效果有限。研究结果强调了针对此类投毒攻击的新型防御机制的迫切需求。本文适合关注隐私计算、联邦学习安全性以及对抗性机器学习的研究人员和蓝队安全工程师阅读。

💡 推荐理由: 该研究揭示了键值数据LDP协议在投毒攻击下的脆弱性,这类协议广泛应用于联邦统计和隐私保护分析。安全从业者需认识到即使具备本地差分隐私保护,数据的完整性仍可能受到恶意用户影响,从而影响依赖聚合结果的下游决策。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Berkay Kemal Balioglu, Alireza Khodaie, M. Emre Gursoy

本文针对本地差分隐私(LDP)中广泛使用的优化局部哈希(OLH)协议,提出两种基于二项分布建模的快速仿真算法(2-Binom 和 3-Binom)。现有 OLH 仿真通常需遍历所有用户和整个域,计算复杂度为 O(nd),其中 n 为用户规模,d 为域大小,导致大规模场景下仿真耗时严重。作者的核心洞察是:对于任意域值 v,其扰动报告支持 v 的用户总数可分解为两个或三个二项随机变量之和。基于此,所提算法将仿真复杂度降至 O(n+d),同时保持统计等价性。理论上,作者证明两种算法均能产生无偏的频率估计,且方差与原始 OLH 仿真完全一致。在真实数据集上的实验表明,两种算法能将执行时间从数分钟缩短至毫秒级,在保证效用不变的前提下实现显著加速。该工作适用于需要大量重复实验的 LDP 研究与应用评估场景,尤其对隐私保护机器学习、数据采集系统的性能调优具有参考价值。适合关注 LDP 协议效率、仿真工具优化以及隐私计算实验方法的研究人员和工程师阅读。

💡 推荐理由: OLH 仿真复杂度高是 LDP 研究的常见瓶颈,本文提供数学上等效的快速替代方案,可大幅降低实验时间成本,提升科研迭代效率,对隐私计算领域工程实践有直接帮助。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Incheol Baek, Hyungbin Kim, Yon Dohn Chung

本文针对本地差分隐私(LDP)下数值数据收集中的一个核心难题:传统LDP机制通常需要预先定义数据域(即数值的取值范围),但在实际应用中该范围往往未知。若预设范围过窄,超出范围的值会被截断,造成信息丢失;若预设范围过宽,则扰动阶段会加入过多噪声,降低数据的可用性。为此,作者提出了一种自适应的LDP框架,能够在无需先验知识的情况下动态估计并调整数据域。具体方法为:每个用户发送两条信息——其扰动后的数值数据,以及一个经过隐私保护的信号,用于指示原始值是否被当前数据域截断。通过聚合这些信号,所提出的自适应截断界(ABC)方法迭代调整数据域,使其贴合潜在的数据分布。理论分析证明了所估计的数据域能够收敛到合适的区间。实验评估表明,该框架在多个数据集和多种底层LDP机制下显著提升了数值数据收集的质量;同时,实验也验证了估计范围在实际中能成功收敛,并通过全面的消融研究证明了方法对超参数具有鲁棒性。论文适合对差分隐私、隐私保护数据收集和自适应算法感兴趣的研究者、数据平台设计者及隐私工程师阅读。

💡 推荐理由: 差分隐私是保护用户数据的重要手段,而LDP的域估计问题直接影响收集数据的质量与隐私保护效果。该工作提出无需先验知识的自适应域界调整方法,可提升实际场景中LDP方案的可用性,对隐私保护数据采集系统的设计有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sandaru Jayawardana, Sennur Ulukus, Ming Ding, Kanchana Thilakarathna

该论文研究多维用户数据收集场景下的本地差分隐私(Local Differential Privacy, LDP)问题。在实际应用中,多维数据的属性之间往往存在依赖关系,这种依赖可能被攻击者利用,导致用户隐私在形式化隐私保护之外发生额外泄露,即相关诱导的隐私泄露(Correlation-induced Privacy Leakage, CPL)。现有针对 CPL 的分析方法要么需要准确的先验概率知识,要么在面对大量属性或高基数属性时存在可扩展性瓶颈,难以直接应用于真实数据。为弥补这一空缺,作者提出一种新的度量指标“Dependency Triad”(DT),以三个参数概括影响 CPL 的成对属性依赖信息,并在此基础上给出一个常数时间(constant-time)且保守的成对 CPL 估计器。DT 通过显式建模先验分布知识的不确定性,实现了对隐私泄露量的稳健估计;同时,它对稀疏分布具有鲁棒性,因此特别适合高基数属性场景。此外,DT 采用成对分解的构建方式,可作为多维场景下评估总体泄露的可行基础模块。论文在合成数据集和真实数据集上进行了大量实验,结果表明 DT 能够在不同的依赖模式和先验不确定条件下一致地估计 CPL,具有良好的稳健性和实用价值。该研究为多维数据隐私风险评估提供了新的理论工具,有助于进一步优化隐私与效用的权衡。

💡 推荐理由: 本文提供一种可量化多维数据属性依赖引发的隐私泄露的度量方法,帮助安全从业者更准确地评估 LDP 在实际场景中的隐私风险,从而设计更有效的隐私保护策略。

🎯 建议动作: 研究跟进,评估该度量在内部隐私保护框架中的适用性。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Yuting Liang, Tian Shu, Ke Yi

本研究关注在本地模型(Local Model)下私有化释放函数(特别是曲线)的问题。曲线是连续函数在有限区间上的像,真实世界中许多数据天然以曲线形式存在,例如轨迹数据、一维密度曲线等。在本地模型中,每个个体的数据是一个函数,而隐私保护的目标是释放该函数的某种扰动版本。标准本地差分隐私(Local Differential Privacy, LDP)要求任意两个截然不同的函数经过私有化后都不可区分,这一条件过于严格,导致扰动后函数失去可用性。为此,作者引入更广义的隐私概念——地理隐私(Geo-Privacy, GP)。GP 的核心思想是:在度量空间上距离较远的两个函数可以被较为容易地区分,而距离较近的函数则获得强保护。这与实际需求匹配:距离近的曲线可能代表相似用户行为或邻近位置,需要严格隐藏;距离远的曲线则可保留区分度以保证数据效用。本文提出一个在本地模型下基于 GP 的函数私有化框架,并使用多个数据集对该框架进行实验评估,验证了其在隐私和效用之间的平衡能力。该工作填补了本地模型下函数/曲线私有化研究的空白,并为轨迹数据、密度曲线等个体级连续数据的安全发布提供了新的方法论参考。适合差分隐私、位置隐私、轨迹数据分析等领域的研究者阅读。

💡 推荐理由: 该研究为连续数据(如轨迹、密度曲线)在本地模型下的隐私保护提供了新思路,突破了标准 LDP 过于严格导致效用过低的局限,对数据共享和隐私计算实践有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Judith Sáinz-Pardo Díaz, Álvaro López García

该论文介绍了trasgoDP,一个模块化、开源且易于使用的Python框架,用于在ε-本地差分隐私(LDP)保证下发布表格微观数据,以及在地理不可区分性假设下发布位置数据。该框架设计为可以安装并集成到标准数据科学工作流中,支持系统地探索多种机制、数据类型和ε值下的隐私-效用权衡。虽然差分隐私在聚合数据上已得到广泛研究,但其在逐行微观数据发布方面的可复用软件工具仍相对欠缺,尤其是在度量隐私和位置数据方面。trasgoDP实现了针对数值和分类属性的本地差分隐私机制(拉普拉斯、高斯、指数和随机响应),以及用于位置数据的地理不可区分性机制。同时,该框架提供了一组效用度量指标,包括一种新颖的相关性损失度量,用于量化信息损失与分配的隐私预算之间的关系。本工作的目标是为研究社区提供一个可复现、开源的基线,用于在正式本地差分隐私保证下评估表格和位置数据发布方法。

💡 推荐理由: 填补了本地差分隐私表格微观数据发布开源工具的空缺,为隐私保护数据发布研究提供了可复现的基准。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Puning Zhao, Zhikun Zhang 0001, Jiawei Dong, Jiafei Wu, Zhe Liu 0001, Shaowei Wang 0003, Yunjun Gao

本地差分隐私(LDP)协议容易受到操纵攻击,攻击者通过篡改本地数据或随机性来破坏统计估计的准确性。现有早期工作通过将每个样本转化为二元信号来限制攻击者能力,但这种方法在ε>1时导致严重的信息损失,牺牲了数据效用。本文提出了一种攻击无关的通用防御框架RobustLDP,旨在无需了解攻击者知识的情况下实现鲁棒估计。核心思想是:服务器向所有用户发送精心设计的预定义信息(例如一个公共随机种子),用户根据该信息结合自身数据生成响应,服务器再聚合反馈进行估计。通过这种方式,框架在保留信息与限制攻击者能力之间取得了更好的平衡。作者将RobustLDP实例化为频率估计和均值估计(在ℓ1和ℓ2支持上)两个基础任务,这些可作为更高级任务的构建模块。理论分析表明,对于所有可能的攻击,该方法都能提供一定的估计误差上界保证。实验在多个真实数据集上验证了RobustLDP的效用:与基线方法相比,在ε>1时,估计精度显著提升,且对操纵攻击的鲁棒性更强。本文是首个在攻击无关假设下同时实现高鲁棒性和高数据效用的LDP框架。

💡 推荐理由: 本地差分隐私广泛应用于用户数据分析,但现有协议易受操纵攻击。本文提出的攻击无关防御框架无需预先知道攻击类型即可保持鲁棒性,为LDP的实际安全部署提供了重要理论基础和实用方法。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yutong Ye 0002, Tianhao Wang 0001, Min Zhang 0043, Dengguo Feng

本文研究了本地差分隐私(LDP)中的基本估计问题。现有估计方法分为两类:无偏估计方法在LDP下由于添加过多噪声,往往给出不合理结果(如负值或估计值之和与参与用户总数不相等);而基于最大似然估计(MLE)的方法虽能给出合理结果,但常面临过拟合问题。为了解决这一挑战,作者受高斯混合模型(GMM)启发,提出了一种还原框架。该框架将LDP估计问题转化为混合模型的密度估计问题,通过合并混合模型中权重最小的分量,使EM算法收敛更快,生成更稳健的分布估计。实验表明,该方法在均值估计、分类分布估计和数值分布估计方面均优于现有方法。论文主要贡献包括:提出通用高效的建模框架,适用于多种LDP协议;通过理论分析和实验验证了方法的优越性。适合数据隐私领域的研究人员和工程师阅读。

💡 推荐理由: 本文提出的LDP估计方法改进了现有技术的准确性和稳定性,对于构建实用隐私保护系统具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Andrea Gadotti, Florimond Houssiau, Meenatchi Sundaram Muthu Selva Annamalai, Yves-Alexandre de Montjoye

该论文针对苹果公司在其本地差分隐私(LDP)系统中使用的Count Mean Sketch(CMS)机制进行了实际的隐私保证量化研究。苹果的CMS用于从用户设备收集使用数据,其宣称的隐私保证基于ε=4的LDP模型。然而,作者指出该保证仅在单次上报的孤立场景下成立,而现实系统中同一用户会多次上报数据,且不同用户之间可能存在关联。为了评估实际隐私风险,作者提出了池推理攻击(pool inference attacks),该攻击利用攻击者拥有的辅助信息(如用户的部分真实数据)以及观察到的多次CMS上报,通过统计推断来恢复用户的其他敏感属性。实验使用了苹果官方报告中公开的参数(如m=256, h=2, ε=4),并基于模拟数据和真实分布进行评估。结果显示,在苹果部署的参数下,池推理攻击的成功率远高于理论预期:例如,当攻击者已知用户一个hash值对应的位置时,能准确推断出另一个hash值对应的真实值,导致实际隐私损失远超ε=4的理论界限。这表明苹果的CMS机制在实践中无法提供所声称的强隐私保证,尤其对于长期或频繁上报的用户。论文的主要贡献包括:1)首次系统性地对苹果CMS进行实际隐私量化;2)提出池推理攻击框架,可推广到其他LDP机制;3)揭示了理论隐私模型与真实风险之间的差距,呼吁重新评估LDP部署中的参数选择。该研究对隐私保护实践、差分隐私部署的安全性以及监管合规具有重要警示意义。

💡 推荐理由: 揭示了苹果等公司使用的LDP机制在实际部署中的隐私风险远高于理论保证,直接影响数亿用户的隐私安全,并提醒安全工程师不能盲目信赖理论隐私预算。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Madhura Pathegama, Srikanth Avasarala, Viveck R. Cadambe, Juba Ziani

本文研究在诚实但好奇的服务器场景下,通过本地差分隐私(LDP)对 n 个用户持有的数值进行私有求和估计。传统上,本地差分隐私要求每个用户独立添加噪声,导致估计精度远低于集中式差分隐私(CDP)——后者在汇总数据后统一添加噪声。本文证明这一精度差距并非本质性的:通过精心设计用户间本地噪声的相关性,可以构造满足 ε-差分隐私的机制,使得求和估计的均方误差(MSE)与集中式设置中可达到的最优值任意接近。具体地,作者提出一种基于相关噪声的 LDP 机制,其估计成本(MSE)与 CDP 最优成本仅相差任意小的常数倍,从而在理论上确立了 LDP 可以无损达到 CDP 的效用。该结果挑战了 LDP 必然导致高噪声损失的普遍认知,为设计高效本地隐私保护聚合协议提供了新的理论框架。论文属于理论性研究,适合对差分隐私、统计推断和隐私计算理论感兴趣的学者。

💡 推荐理由: 证明了本地差分隐私(LDP)可以通过相关噪声消除与集中式差分隐私(CDP)之间的效用差距,从根本上改变了业界对 LDP 精度上限的认知,对隐私保护聚合协议的设计具有重要理论指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Youngmok Ha, Viktor Schlegel, Yidan Sun, Anil Anthony Bharath

局部差分隐私(LDP)作为分布式数据收集的基元,其严格的噪声注入要求常导致数据效用严重下降。传统LDP机制是任务无关的,在所有维度上均匀施加噪声,忽略了不同维度对下游任务的相对重要性。本文提出一种新颖方法,在数据表示的任务相关子空间中减轻噪声。该方法通过下游公共模型的雅可比矩阵识别任务关键子空间,沿这些维度选择性地衰减噪声,并将标准LDP的各向同性噪声重塑为各向异性分布。该方法在保持每维度隐私预算均匀的同时,跨维度异质地调制噪声影响,从而显著提升数据效用。此外,该方法可推广到线性和非线性模型,并能无缝集成现有机制。在CIFAR-10-C(最高严重度等级5的亮度损坏)上的大量实验表明,在ε=7.5时,集成该方法使PrivUnit2和PrivUnitG的效用提升约20%。源代码已公开。

💡 推荐理由: 该方法在不牺牲隐私预算的前提下,显著提升了LDP下的数据效用,有助于平衡隐私保护与数据可用性,对分布式数据收集、联邦学习等场景具有重要实践意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Pei Zhan, Peng Tang 0002, Yangzhuo Li, Puwen Wei, Shanqing Guo

局部差分隐私(LDP)是一种允许用户扰动数据以提供合理否认性的隐私保护技术,但这也使其容易受到投毒攻击。本文首次提出针对排名估计的新型投毒攻击。与简单的频率调整不同,攻击者利用有限数量的假用户精确修改物品频率,从而改变排名以最大化收益。为了应对这一挑战,作者引入了攻击成本和最优攻击物品(集合)的概念,并针对kRR、OUE和OLH三种LDP协议提出了相应策略。对于kRR,采用迭代选择最优攻击物品并分配假用户的方法;对于OUE,迭代确定最优攻击物品集并考虑不同集合间频率的增量变化;对于OLH,基于哈希的原像开发了调和成本函数以支持更多有效攻击物品。此外,还提出了一种基于置信水平的攻击策略,更精确地量化攻击成功概率和迭代次数。通过理论和实验证据证明了攻击的有效性,强调了防御的必要性。代码和数据已开源。本文适合隐私保护、差分隐私安全及数据投毒防御领域的研究人员阅读。

💡 推荐理由: 揭示了LDP在排名估计场景下的重大安全漏洞,攻击者可通过少量假用户操纵排名,威胁依赖LDP的推荐系统、投票统计等应用的隐私与准确性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Bo Jiang, Wanrong Zhang 0004, Donghang Lu, Jian Du, Qiang Yan

本文提出了一种针对本地差分隐私(LDP)框架下频率估计与未知项发现问题的优化方法。首先,作者提出了广义计数均值草图(GCMS)协议,该协议统一了多种现有频率估计协议,并显著改进了通信、隐私和准确性之间的三方权衡。在此基础上,基于通用效用分析框架,进一步提出了最优计数均值草图(OCMS)协议,专门为目标频率项收集场景最小化方差。针对未知数据域(即数据项的集合未知)的问题,作者提出了一种新协议,结合稳定性直方图技术和加密-洗牌-分析(ESA)框架,利用辅助服务器在不访问原始数据消息的情况下构建直方图。该协议在实现类似中心化DP模型的精度的同时,提供了本地化的隐私保证,并大幅降低了计算成本。实验表明,所提方法在通信效率、隐私保护强度和估计准确性上均优于现有方案。

💡 推荐理由: 该研究优化了LDP协议的实用性与隐私权衡,对安全从业者理解数据收集中的隐私保护与准确性平衡有理论指导意义,但距离直接工程应用尚有距离。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Albert Cheu, Adam D. Smith 0001, Jonathan R. Ullman

本文系统研究了本地差分隐私(LDP)协议在面对恶意操纵时的基本局限性。本地差分隐私是一种广泛研究的分布式算法约束,用于收集敏感用户数据的聚合统计,目前已部署在多个大型系统中。作者指出,尽管任何算法都可能被谎报输入的对手操纵,但非交互式本地差分隐私协议在隐私级别高或域规模大时,操纵空间显著增大:协议中一小部分恶意用户就可以完全掩盖诚实用户输入的分布。为了应对这一威胁,作者构建了针对本地差分隐私中多种常见任务(如频率估计、均值估计等)的最优鲁棒性协议,这些协议在存在操纵攻击时能保持最大程度的准确性。此外,通过简单实验验证了理论结果,并展示了在无操纵环境下最优的协议在抗操纵鲁棒性上可能存在巨大差异。研究结果建议在部署本地差分隐私时需谨慎,并强调了通过高效密码学技术分布式模拟中心化差分隐私机制的重要性。本文核心贡献包括:(1) 首次系统研究LDP协议的操纵攻击理论局限性;(2) 提出并证明了操纵攻击对LDP协议的影响下界;(3) 设计了针对常见任务的最优鲁棒协议;(4) 实验验证了理论发现。适合从事隐私保护、差分隐私、安全协议设计的研究人员和工程师阅读。

💡 推荐理由: 本文揭示了本地差分隐私协议在恶意操纵下的脆弱性,挑战了其在实际部署中的安全性假设,对依赖LDP的系统设计者具有重要警示意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)