#data-auditing

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xukun Luan, Jinyan Liu, Yuhui Gong, Yuanguo Bi, Bing Hu, Xuesong Li, Di Wang

本文提出 MemCatalyst,一套面向视觉-语言模型(VLM)的数据投毒工具,旨在增强数据审计(尤其是成员推理攻击)的有效性。研究背景是:VLM 依赖海量互联网数据训练,数据持有人(如艺术家)迫切需要确认自己的数据是否被未经授权用于模型训练,这涉及知识产权与个人隐私。成员推理(MI)作为一种直接的数据审计手段受到关注,但其在 VLM 上的表现往往不够理想。MemCatalyst 的核心思路是:通过在训练数据中注入精心构造的对抗样本,迫使 VLM 在训练时过度学习图像特征与文本语义之间的特定不一致性,从而使模型对个别样本的“记忆”更强,进而提高成员推理的成功率。具体包含两种策略:文本投毒(PT)和图像投毒(PI)。作者还证明了中毒样本在不同 VLM 架构之间具有迁移性,能在黑盒设置下有效工作。实验基于两个主流 VLM 和五种先进的数据审计方法,结果表明 MemCatalyst 能以极小的中毒样本预算显著提升 MI 的 AUC 分数,同时几乎不损害模型的正常性能。本文的主要贡献在于:首次系统性地利用数据投毒来放大 VLM 的数据审计信号,为数据持有人提供了一种更强大的审计工具;同时揭示了 VLM 训练过程中对不一致特征的过度记忆风险,对模型安全与隐私保护具有重要启示。适合关注数据隐私、模型审计、对抗攻击与防御的研究人员、安全工程师以及 AI 治理从业者阅读。

💡 推荐理由: 为数据持有人提供了更强的数据审计手段,但也暴露了 VLM 过度记忆风险的放大途径,安全团队需关注此类投毒攻击对模型隐私与合规的影响。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)