#de-identification

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Wen Hu, Ya Yu, Xutong Wang

本文针对「云-端协同 LLM 推理」中的隐私取舍问题提出 DR-SL 框架(Dehydrate-Rehydrate with Self-Learning loop,脱水-再水化自学习闭环)。现实困境在于:企业希望把敏感用户数据留在本地,却又想借用云端大模型的推理能力;而既有做法——占位符替换、差分隐私扰动、技能蒸馏——都缺少一个既安全又不显著损失任务效用的「放行决策」。作者将脱敏完备性形式化为两个可度量条件:其一是 Pufferfish 语义下的脱敏充分性,其二是通过 QA 探针衡量的任务信息保真度。系统采用完全本地的双分支验证器,在字典序门控(lexicographic gate)下迭代执行脱水操作,并给出终止性保证;门控之外还设置三层兜底:确定性硬规则红线、外部强攻击者重测、以及人工回退。理论层面,作者证明了 Fano 型下界、Pufferfish 见证(witness)与速率-隐私可行性判据,并明确限定其适用范围——这些界只能证明「发生了泄漏」,不能证明「安全」,且在当前工作点近乎空泛,因此放行安全性实际依赖经验校准、硬规则与人工审核三者。实验方面:在最坏的完全任务耦合基准上,闭环将泄漏率从 0.457 降至 0.304(p 约等于 0,即统计显著);放行链路在出口处实现 0.000 的字面泄漏(160 个实例、两个强攻击者设定),系统按可行性判据预期退化为「认证+路由」模式。在混合耦合基准上,同一安全点在零实测泄漏下自动放行 67.5% 的实例,在相同放行规则下帕累托优于占位符替换与选择性本地差分隐私方案。两项人类研究分别锚定了语义效用指标(Spearman rho = 0.839)与标注金标准(类型级召回不低于 0.987)。作者同时如实报告:探索性的自学习假设未获支持。所有理论界均通过数值验证,代码、合成数据集、协议与人类研究材料全部公开。

💡 推荐理由: 数据出域是云侧 LLM 落地的最大合规障碍。本文给出可度量、可审计的「脱敏-放行」决策框架与三层保障,并诚实说明理论界不等于安全保证,对企业 DLP、数据脱敏网关与隐私合规评审有直接参考价值。

🎯 建议动作: 研究跟进:评估其字典序门控与三层保障结构能否嵌入现有数据脱敏网关,并复现其混合耦合基准上的自动放行率与泄漏率指标

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Md. Monowar Anjum, Noman Mohammed, Xiaoqian Jiang

本文提出了一种针对非结构化临床文本去标识化(de-identification)的新问题建模方式。传统上,去标识化被视为令牌分类(token classification)任务,即对文本中的每个词或符号标注是否为受保护的健康信息(PHI),如姓名、日期、地点等。作者创新性地将其重新定义为序列到序列(sequence-to-sequence)学习问题,受近年来序列到序列模型在命名实体识别(NER)中取得最优表现的启发。具体而言,模型将原始文本作为输入序列,直接输出已去标识化的文本序列(例如用占位符替换PHI),从而绕过显式标注每个令牌类别的步骤。早期实验在i2b2数据集上达到了98.91%的召回率,与当前最先进的非结构化临床文本去标识化模型性能相当。该方法的潜在优势包括:简化标注流程、可以利用大规模语言模型的生成能力、以及能够更自然地处理上下文依赖的PHI识别。本文的核心贡献在于提出这一新的问题形式化,并通过初步实验证明其可行性,为后续在更广泛临床语料上的优化和评估奠定了基础。适合关注医疗信息隐私保护、自然语言处理安全应用以及数据脱敏技术的研究人员和工程师阅读。

💡 推荐理由: 临床文本去标识化是医疗数据共享与合规(如HIPAA)的关键技术。本文提出的序列到序列新视角可能带来更简洁的建模和更强的泛化能力,值得数据安全与隐私保护从业者关注。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)