随着生成模型在机器学习即服务(MLaaS)平台上的快速普及,如何在不修改生成器架构或参数的前提下可靠地追踪合成媒体的来源,仍是一项重大挑战。为此,本文提出一个自指逆向合成框架,用于固定生成器场景下的可解释 AI 溯源取证。该框架利用联合优化的编码器-解码器对实现自嵌入机制,使生成输出具备往返一致性验证能力:推理时,客户端输入先经编码器编码再送入生成器,以高视觉保真度生成图像;取证时,将待查询图像送回解码路径重新合成,并通过度量重合成图像与查询图像之间的一致性来判断该图像是否来自目标生成模型。该方法完全免除了水印嵌入或对生成流程的任何修改。实验结果表明,编码后生成的图像与原始生成器输出在视觉质量上相当,而解码所得结果能够可靠地回溯到对应的源输入;同时,该框架还能提供可解释的来源证据。论文将有机化学中的逆向合成思想迁移至生成媒体溯源领域,为深度伪造鉴别、模型身份识别以及 MLaaS 审计提供了一个不侵入生成流程的取证工具,适合研究对抗环境下合成媒体来源归属的蓝队人员参考。
💡 推荐理由: 生成式 AI 的滥用使合成媒体取证日益重要。本文提出的自引用重合成框架无需水印或修改生成器即可追溯图像来源,有助于蓝队在不影响模型部署的前提下验证深度伪造的生成归属,并为可解释取证分析提供新方案。
🎯 建议动作: 研究跟进