QuanText: Protecting Dataset-Level Secrets in Textual Data Sharing
自然语言数据集被广泛用于模型训练与社会科学研究，但公开发布文本会泄漏数据源的整体统计属性（即“数据集级秘密”），例如某种性别、某种诊断或某种政治立场的记录占比。这类信息不属于任何单条记录，却可能暴露整个采集人群的敏感特征。现有研究多集中在属
#property-inference
共收录 3 条相关情报。
← 返回所有主题SNAP: Efficient Extraction of Private Properties with Poisoning.
本文研究针对机器学习模型训练数据隐私的“属性推断攻击”（Property Inference Attack）问题。此类攻击旨在从已训练模型中提取训练数据集的全局统计属性（如某类样本占比、数据分布特征），对共享数据参与训练的机构或个人构成隐私
Alignment Defends LLMs from Property Inference Attacks
本文研究了大型语言模型（LLM）在领域特定数据集上微调时面临的数据集属性泄露风险。近期研究表明，通过属性推断攻击（property inference attacks），攻击者能够有效提取模型训练数据集中的敏感属性（如数据集的整体分布特征）