该论文研究 AI 图像生成器以不透明 API 形式部署后的完整性审计问题。现实中,客户只能查询已部署的服务,无法检查模型权重或架构,这给"调包"(bait-and-switch)留下空间:供应商可能先以某个生成器通过治理认证,之后在部署阶段悄悄替换为更廉价、质量更低的模型,从而损害公众信任,在高风险领域甚至影响安全。作者聚焦"部署时"的完整性审计,提出 FARE(Forensic Acceptance Region Estimation,取证接受域估计)。其流程分为两个阶段:登记阶段,用被认证生成器采样得到的图像训练 FARE;部署阶段,仅凭一张生成图像即可判断其是否与登记的生成器一致,无需访问模型内部。FARE 的特征建立在面向取证应用提出的、与具体生成器相关的图像伪影(generator-specific artifacts)之上;在训练过程中,FARE 通过挖掘难样本(hard samples)来收紧接受域,从而提高对已认证生成器细微变化的敏感度。实验覆盖多种生成器替换场景,包括相似模型版本之间的替换以及模型变体之间的替换。结果显示,FARE 能有效检测替换,在严格操作点(低误报率)下持续优于现有基线,并且在本文所评估的"精确模型攻击"与"仅决策攻击"两种对抗设定下仍然保持有效。该工作适合从事 AI 供应链审计、模型治理与合规、多媒体取证以及平台内容可信度评估的研究者与安全工程师阅读。
💡 推荐理由: 黑盒模型即服务让"认证后调包"极难察觉。FARE 提出仅凭输出图像验证模型身份、无需权重访问的部署期审计思路,对 AI 供应链验收、治理认证的持续合规与取证具有直接参考价值。
🎯 建议动作: 研究跟进