#sequence-models

共收录 1 条相关安全情报。

← 返回所有主题
推荐 11.5
Conf: 50%
👥 作者: Lorenzo Rossi, Michael Aerni, Jie Zhang 0107, Florian Tramèr

本文针对序列模型(如大型语言模型和自回归图像生成器)中的成员推断攻击进行了研究。序列模型在训练过程中往往会记忆训练数据中的敏感信息,并在生成过程中无意泄露这些信息,这带来了严重的法律和隐私风险。然而,现有的隐私审计工具由于假设与序列生成过程的特性不匹配而效果有限。作者提出,有效测量序列模型中的隐私泄露需要利用序列生成过程中固有的样本内相关性。为此,他们改编了最先进的成员推断攻击,通过显式建模序列内的相关性,将现有攻击自然地扩展以适应序列模型的结构。具体地,他们针对自回归序列生成的特点,在攻击中引入了一个能够捕获序列内依赖关系的统计量,从而更准确地判断一个样本是否出现在训练集中。通过案例研究(可能针对语言模型或图像生成模型),实验证明这种改进能够持续提高记忆审计的有效性,且不会增加额外的计算成本。本文的工作为大型序列模型的可靠记忆审计奠定了重要基础,对于理解和缓解序列模型中的隐私泄露风险具有指导意义。

💡 推荐理由: 序列模型(如LLM)广泛部署,成员推断攻击可导致训练数据中敏感信息泄露,引发法律和合规问题。本文提出的改进审计方法能更准确评估隐私风险,对安全从业者制定隐私保护策略至关重要。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)