#manipulation-attacks

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Puning Zhao, Zhikun Zhang 0001, Jiawei Dong, Jiafei Wu, Zhe Liu 0001, Shaowei Wang 0003, Yunjun Gao

本地差分隐私(LDP)协议容易受到操纵攻击,攻击者通过篡改本地数据或随机性来破坏统计估计的准确性。现有早期工作通过将每个样本转化为二元信号来限制攻击者能力,但这种方法在ε>1时导致严重的信息损失,牺牲了数据效用。本文提出了一种攻击无关的通用防御框架RobustLDP,旨在无需了解攻击者知识的情况下实现鲁棒估计。核心思想是:服务器向所有用户发送精心设计的预定义信息(例如一个公共随机种子),用户根据该信息结合自身数据生成响应,服务器再聚合反馈进行估计。通过这种方式,框架在保留信息与限制攻击者能力之间取得了更好的平衡。作者将RobustLDP实例化为频率估计和均值估计(在ℓ1和ℓ2支持上)两个基础任务,这些可作为更高级任务的构建模块。理论分析表明,对于所有可能的攻击,该方法都能提供一定的估计误差上界保证。实验在多个真实数据集上验证了RobustLDP的效用:与基线方法相比,在ε>1时,估计精度显著提升,且对操纵攻击的鲁棒性更强。本文是首个在攻击无关假设下同时实现高鲁棒性和高数据效用的LDP框架。

💡 推荐理由: 本地差分隐私广泛应用于用户数据分析,但现有协议易受操纵攻击。本文提出的攻击无关防御框架无需预先知道攻击类型即可保持鲁棒性,为LDP的实际安全部署提供了重要理论基础和实用方法。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Albert Cheu, Adam D. Smith 0001, Jonathan R. Ullman

本文系统研究了本地差分隐私(LDP)协议在面对恶意操纵时的基本局限性。本地差分隐私是一种广泛研究的分布式算法约束,用于收集敏感用户数据的聚合统计,目前已部署在多个大型系统中。作者指出,尽管任何算法都可能被谎报输入的对手操纵,但非交互式本地差分隐私协议在隐私级别高或域规模大时,操纵空间显著增大:协议中一小部分恶意用户就可以完全掩盖诚实用户输入的分布。为了应对这一威胁,作者构建了针对本地差分隐私中多种常见任务(如频率估计、均值估计等)的最优鲁棒性协议,这些协议在存在操纵攻击时能保持最大程度的准确性。此外,通过简单实验验证了理论结果,并展示了在无操纵环境下最优的协议在抗操纵鲁棒性上可能存在巨大差异。研究结果建议在部署本地差分隐私时需谨慎,并强调了通过高效密码学技术分布式模拟中心化差分隐私机制的重要性。本文核心贡献包括:(1) 首次系统研究LDP协议的操纵攻击理论局限性;(2) 提出并证明了操纵攻击对LDP协议的影响下界;(3) 设计了针对常见任务的最优鲁棒协议;(4) 实验验证了理论发现。适合从事隐私保护、差分隐私、安全协议设计的研究人员和工程师阅读。

💡 推荐理由: 本文揭示了本地差分隐私协议在恶意操纵下的脆弱性,挑战了其在实际部署中的安全性假设,对依赖LDP的系统设计者具有重要警示意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)