#pufferfish-privacy

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Wen Hu, Ya Yu, Xutong Wang

本文针对「云-端协同 LLM 推理」中的隐私取舍问题提出 DR-SL 框架(Dehydrate-Rehydrate with Self-Learning loop,脱水-再水化自学习闭环)。现实困境在于:企业希望把敏感用户数据留在本地,却又想借用云端大模型的推理能力;而既有做法——占位符替换、差分隐私扰动、技能蒸馏——都缺少一个既安全又不显著损失任务效用的「放行决策」。作者将脱敏完备性形式化为两个可度量条件:其一是 Pufferfish 语义下的脱敏充分性,其二是通过 QA 探针衡量的任务信息保真度。系统采用完全本地的双分支验证器,在字典序门控(lexicographic gate)下迭代执行脱水操作,并给出终止性保证;门控之外还设置三层兜底:确定性硬规则红线、外部强攻击者重测、以及人工回退。理论层面,作者证明了 Fano 型下界、Pufferfish 见证(witness)与速率-隐私可行性判据,并明确限定其适用范围——这些界只能证明「发生了泄漏」,不能证明「安全」,且在当前工作点近乎空泛,因此放行安全性实际依赖经验校准、硬规则与人工审核三者。实验方面:在最坏的完全任务耦合基准上,闭环将泄漏率从 0.457 降至 0.304(p 约等于 0,即统计显著);放行链路在出口处实现 0.000 的字面泄漏(160 个实例、两个强攻击者设定),系统按可行性判据预期退化为「认证+路由」模式。在混合耦合基准上,同一安全点在零实测泄漏下自动放行 67.5% 的实例,在相同放行规则下帕累托优于占位符替换与选择性本地差分隐私方案。两项人类研究分别锚定了语义效用指标(Spearman rho = 0.839)与标注金标准(类型级召回不低于 0.987)。作者同时如实报告:探索性的自学习假设未获支持。所有理论界均通过数值验证,代码、合成数据集、协议与人类研究材料全部公开。

💡 推荐理由: 数据出域是云侧 LLM 落地的最大合规障碍。本文给出可度量、可审计的「脱敏-放行」决策框架与三层保障,并诚实说明理论界不等于安全保证,对企业 DLP、数据脱敏网关与隐私合规评审有直接参考价值。

🎯 建议动作: 研究跟进:评估其字典序门控与三层保障结构能否嵌入现有数据脱敏网关,并复现其混合耦合基准上的自动放行率与泄漏率指标

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
推荐 3.5
Conf: 50%
👥 作者: Ni Ding, Wenjin Yang, Zijian Zhang

该论文提出了一种基于α-Wasserstein距离的机制来实现Rényi Pufferfish隐私保护,使用了拉普拉斯噪声和高斯噪声。通过应用Hölder不等式,作者证明了拉普拉斯机制的尺度参数可以通过W_α度量的上界进行校准,从而对于α∈(1, ∞]满足(α, ε)-Rényi Pufferfish隐私。在α=∞的极限情况下,该框架恢复了已有的用于ε-Pufferfish隐私的W_∞机制。该结果随后被扩展到指数机制。此外,作者提出了一种用于α∈(1, ∞)的高斯噪声的W_α机制,证明了它推广了Rényi差分隐私框架下的现有结果。实验评估表明,与传统的基于W_∞的方法相比,α-Wasserstein机制显著降低了噪声功率,其中高斯机制比拉普拉斯机制提供了更好的效用。值得注意的是,本文推导的机制实现了精确的(α, ε)-Rényi Pufferfish隐私,无需像δ近似这样的额外松弛。该工作为隐私保护领域提供了新的理论工具,有助于在数据发布和分析中实现更强的隐私保证。

💡 推荐理由: 该研究为Pufferfish隐私(一种比差分隐私更通用的隐私模型)提供了新的实现机制,通过α-Wasserstein距离优化了噪声添加,实现了更低的噪声功率,有利于在保护隐私的同时保持数据效用,对数据发布和机器学习中的隐私保护有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)