该论文针对文本数据发布场景中的身份再识别(identity leakage)风险,提出了一个名为 Conformal Privacy Auditing(CPA,共形隐私审计)的免分布校准框架。研究背景是:随着大语言模型(LLM)能力提升,攻击者可以结合 LLM 与外部辅助知识(auxiliary knowledge)把已发布的自然语言文档重新关联到具体个人,传统的经验性审计只报告某条特定攻击流程的成功率,缺乏有限样本的统计保证;而训练阶段的保护手段(如差分隐私)难以转化为针对单篇发布文档的、发布时(release-time)可用的风险判断。 核心方法:CPA 借助共形预测(conformal prediction)思想,为每一篇待发布文档输出一个“共形模糊集”(conformal ambiguity set),即在可交换性(exchangeability)假设下,以用户指定的置信水平保证该集合包含真实身份;集合的大小被进一步转化为可解释的泄漏代理指标(leakage proxy),从而把抽象的隐私风险变成可度量、可比较的数值。框架同时支持两类攻击者设定:可访问 logit 的攻击者(对应开源模型)以及仅能采样的攻击者(对应闭源专有 API 模型),从而在统一口径下审计不同模型形态。 主要贡献:一是将再识别风险评估从“点估计成功率”提升为具有有限样本统计保证的认证式评估;二是提出集合规模作为可解释的泄漏强度度量;三是给出跨攻击者能力、跨数据集的统一审计协议。实验在多个文本发布基准与多种攻击者配置下进行,结果显示 CPA 达到了良好的校准覆盖率(calibrated coverage),并揭示出当辅助知识规模、LLM 增强能力以及发布机制发生变化时,被认证的可识别性会出现显著跃迁。这为在发布时报告和横向比较不同攻击者配置、数据集与发布机制下的链接风险提供了统计学基础。 适合读者:隐私工程与数据发布治理团队、差分隐私与隐私审计研究者、负责模型/数据集对外发布的安全工程师,以及需要评估 LLM 时代文本再识别风险的合规与风控人员。
💡 推荐理由: 文本发布前的隐私评估长期停留在“某条攻击流水线成功率”层面,缺乏有限样本统计保证。CPA 把再识别风险做成带置信度的认证式指标,并统一覆盖开源 logit 访问与闭源 API 仅采样两类对手,使发布决策第一次有了可复现、可比较的统计依据,对数据开放、模型卡与合规披露场景具有直接可操作性。
🎯 建议动作: 研究跟进:评估将 CPA 集成到内部数据发布评审流程的可行性