#privacy-attacks

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Hadrien Lautraite, Tristan Allard, Anne-Sophie Charest, Jean-François Rajotte, Sébastien Gambs

该论文研究了基于局部组合(local combination)方法的合成数据生成技术所导致的隐私泄露风险。合成数据被视为在敏感场景下共享数据的一种有前景的解决方案,但近年来的隐私攻击研究表明,尤其是那些不基于差分隐私等正式隐私框架的合成数据生成方法,仍然存在显著的残余风险。本文重点关注三种局部组合方法:SMOTE、Simulant 和 Avatar,它们近期被用于医疗健康领域以分享“匿名化数据”。作者对这些方法进行了系统性的隐私分析,实施了多种攻击手段,包括成员推断攻击、链接攻击和重建攻击。实验结果表明,这三种方法均存在实质性的隐私泄露,这严重质疑了该类合成数据输出在实践中是否应被视为匿名。论文的核心贡献在于:第一,明确了局部组合合成数据方法在多种隐私攻击下的脆弱性;第二,通过统一的攻击框架对三种代表性方法进行了横向对比;第三,为合成数据的隐私评估提供了实证依据。该研究适合数据隐私研究人员、合成数据开发人员以及依赖合成数据进行数据共享的机构(尤其是医疗健康领域)阅读,以认识局部组合方法的隐私边界。”

💡 推荐理由: 合成数据常被认为是隐私保护的‘银弹’,但本文证明局部组合方法(如 SMOTE、Simulant、Avatar)即使在非差分隐私场景下也会显著泄露训练数据隐私,直接影响医疗等领域的数据共享决策。

🎯 建议动作: 研究跟进:若组织正在使用或考虑使用局部组合合成数据方法,应评估其隐私风险并优先考虑采用差分隐私等可证明隐私保护技术。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 5.5
Conf: 50%
👥 作者: Karima Makhlouf, Lamiaa Basyoni, Syed Khaderi, Gabriel Marquez, Peter Sotomango, Mahmoud Awawdah, Sami Zhioua

大型语言模型(LLMs)在交互式和检索增强场景中日益部署,引发了显著的隐私担忧。以往的研究通常孤立地分析成员推断攻击(MIA)、属性推断攻击(AIA)、数据提取攻击(DEA)和后门攻击(BA),缺乏对它们在常见系统因素下行为的统一理解。本文首先建立了一个统一的威胁模型和符号体系,复现了一组具有代表性的隐私攻击,随后开展结构化消融研究,系统评估模型架构、规模、数据集特征以及检索配置等关键因素对攻击效果的影响。实验发现:基于掩码的成员推断攻击表现出强且稳定的信号;后门攻击凭借其触发机制获得始终如一的高成功率;属性推断和数据提取攻击仍具挑战,准确率较低,但因其针对敏感个人信息而风险突出。总体而言,LLM系统中的隐私风险高度依赖上下文,并受设计选择驱动,强调了全面评估和知情部署实践的必要性。

💡 推荐理由: 该工作统一了多种隐私攻击的评估框架,揭示出攻击效果对模型选择、数据集配置等系统因素的依赖性,有助于安全团队在部署LLM时进行更精准的隐私风险评估。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)