#near-duplicate

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yiyong Liu, Jiayang Liu, Yixin Tan, Lu Sun, Rui Wen

该论文研究成员推理(Membership Inference, MI)在近重复家族(near-duplicate families)存在时的失效问题。MI 用于判断某条记录是否出现在模型训练集中,正被越来越多地用于数据溯源和版权审计。这类应用需要确定查询记录的精确版本是否被用于训练,而不仅仅是模型是否接触过相似内容。然而,网络规模数据集天然包含近重复项,如联合发布文章、镜像页面和轻微修改的图像。作者指出,这为标准 MI 带来根本性混淆。传统干净参考审计(clean-reference audit)的零假设是查询记录及其近重复家族均不存在,但部署中查询记录可能缺失而其非完全相同的家族成员却被用于训练。为此,作者提出四世界审计(four-world audit),独立变化精确记录包含和家族存在性以区分情况。实验发现,自然近重复家族导致严重错误归因:在 CC-News 数据集上,干净参考 LiRA 审计器在 1.00% 假阳性率下将 99.70% 的家族存在但精确记录非成员的样本标记为成员。该失效在不同分数、模型架构以及执行去重和重训练后依然存在。控制实验进一步揭示,效应取决于学习目标:在分类任务中,忠实家族在很大程度上替代精确记录,使精确给定家族的推理接近随机;在自回归语言建模中,精确序列仍保留可检测残差,但家族存在仍会混淆干净参考决策。结论表明,仅基于模型的阳性成员证据可能建立家族级暴露,但无法建立精确记录溯源。

💡 推荐理由: 依赖 MI 进行数据溯源和版权审计的安全从业者需警惕:近重复家族会导致极高假阳性,可能引发错误版权主张或不实合规结论。

🎯 建议动作: 研究跟进,纳入内部评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)