#text-datasets

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Shuaiqi Wang, Zinan Lin, Giulia Fanti

自然语言数据集被广泛用于模型训练与社会科学研究,但公开发布文本会泄漏数据源的整体统计属性(即“数据集级秘密”),例如某种性别、某种诊断或某种政治立场的记录占比。这类信息不属于任何单条记录,却可能暴露整个采集人群的敏感特征。现有研究多集中在属性推断攻击(property inference)如何恢复这些全局属性,针对性的防护手段仍然稀缺;差分隐私虽能有效保护个体记录,对聚合属性的保护却很弱,因为它允许攻击者通过大量样本的统计平均逐步逼近真实分布。为填补这一空白,作者提出 QuanText(Randomized Quantization for Text),一种无需训练、与具体大语言模型无关的数据发布机制,目标是在保护数据集级全局秘密的同时尽量保留数据可用性。其输入包括一个需要保护的数据集级秘密(如患有某种诊断的记录比例),以及需要保留效用的属性(如主题、情感)。QuanText 同时扰动秘密属性分布与与之相关的非秘密属性分布:先在一组候选发布分布中随机挑选一个与真实经验分布足够接近的候选(以保证效用),再把每条原始文本改写成符合该候选分布的样本,改写时仅使用原文中与属性相关的片段。该方法受 Statistic Maximal Leakage(SML)框架启发,该框架可界定数据分布的秘密函数所泄漏的信息量;作者在理想化条件下证明 QuanText 满足 SML 保障。由于这些条件在现实中未必严格成立,作者进一步在真实数据集上做实证评估,结果显示 QuanText 在隐私-效用权衡上优于同类数据生成基线。适合阅读人群:隐私保护数据发布、LLM 数据治理,以及研究属性推断、成员推断攻击的安全与机器学习研究者。

💡 推荐理由: 文本数据发布常被简化为“去标识化即可”,但聚合属性本身就是敏感信息,且差分隐私对其防护有限。QuanText 提供了无需训练、模型无关的发布期防护思路,对医疗、政务、社交文本共享及合成数据管线的合规设计具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)