随着具备网络搜索能力的智能体LLM(如AutoGPT、WebGPT)的普及,文本匿名化的威胁模型发生了根本性变化:即使是看似弱小的上下文线索(如时间、地点、角色名称等)也可能被攻击者通过跨网页交叉引用成功关联,从而重识别出个人身份。然而,这些细节往往又承载着文本下游分析所必要的语义价值。现有防御方案要么仅移除显式标识符,要么采用差分隐私等扰动手段破坏文本结构,抑或仅测试改写文本对非网络推理模型的鲁棒性,但均未深入探索在不牺牲效用的前提下抵抗智能体网络搜索重识别这一关键区域。为此,本文提出AURA(Anonymization with Utility-Retention Adaptation)框架,一种由LLM驱动的“掩码-重建”流水线。该框架将隐私定位与效用保留重建解耦:首先利用LLM识别并掩码需保护的敏感片段,再通过同一LLM进行感知上下文的文本重建以保留语义;同时引入对抗性隐私检查(模拟智能体重识别攻击)和效用保留检查(评估事实完整性与上下文连贯性),迭代选择最优候选输出。AURA在真实用户访谈转录数据上进行了评估:对抗方使用具备网络搜索能力的智能体进行重识别攻击,效用评估则涵盖受访者画像事实、编码本事实以及联合上下文效用网格。实验结果表明,AURA通过自适应隐私范围动态调整掩码粒度,显著提升了对智能体重识别的抵抗能力;在固定隐私范围内,其掩码-重建方法相较于单纯掩码或直接改写更有效地保留了上下文效用,从而在隐私-效用曲线上实现了更优的前沿。该研究主要面向隐私保护、LLM安全以及数据匿名化领域的研究者和工程师。
💡 推荐理由: 智能体LLM的兴起使得传统文本匿名化技术面临被跨网页重识别的全新威胁。AURA首次系统探讨该问题,并提出一个兼顾隐私与效用的实用框架,对数据发布、用户隐私保护具有重要参考价值。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)