#attention-analysis

共收录 1 条相关安全情报。

← 返回所有主题
推荐 5.6
Conf: 50%
👥 作者: Chao Huang, Meng Tong, Kejiang Chen

这篇论文针对多模态大语言模型(MLLMs)在版权与模型溯源方面的空白提出首个「多模态模型指纹」研究。研究背景是:MLLM 已被广泛用于图文推理等任务,但近期事件表明其存在被非法部署、被未授权蒸馏(即第三方用其输出训练衍生模型)的风险,而现有模型溯源方案大多依赖语言主干特征,在多模态场景下会被共享的语言底座「混淆」,难以识别蒸馏造成的侵权。作者的核心思路借鉴了近期关于自注意力机制具有低通滤波特性、且其低频分量携带丰富信息的发现,据此提出白盒溯源方案 AttnPrint:从模型中提取跨模态注意力分布,并分离其低频成分,将这些低频分量作为模型指纹,用于判断某模型是否为另一模型的衍生版本。为了支持黑盒场景下的审计(无法访问权重时),作者进一步提出 DistillTrace,通过对 MLLM 输出进行假设检验来识别潜在的模型侵权/蒸馏关系,而无需访问被审计模型的参数。实验部分覆盖 19 种多模态架构、共 154 个模型实例,规模较大:AttnPrint 在衍生模型检测上表现良好,并且对五种下游修改技术(如微调等改动)保持鲁棒性;DistillTrace 也在三种与参数无关的技术条件下给出了蒸馏关系的证据。总体而言,论文的贡献在于:首次系统性地将多模态注意力指纹用于模型溯源;同时提供白盒与黑盒两条互补的技术路线;并通过跨架构大规模实验验证了可行性与鲁棒性。适合模型安全、AI 供应链治理、知识产权保护及水印/指纹方向的研究与工程人员阅读。

💡 推荐理由: 模型窃取与未授权蒸馏是 AI 供应链中的现实风险。该工作给出了白盒(注意力低频指纹)与黑盒(输出假设检验)两种溯源思路,可帮助安全团队在无法访问权重时仍能发现模型仿冒或蒸馏滥用。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)