#image editing

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Anshul Nasery, Ramnath Kumar, Cho-Jui Hsieh, Sewoong Oh

本文提出名为 MIRAGE(Moderation Induced Resistance Against Generative Editing)的方法,用于保护个人图像免受恶意 AI 图像编辑系统的操控。现有图像免疫技术通常需要访问模型权重和编辑提示,限制了其在实际场景中的应用,尤其是针对 GPT-Image、Gemini Flash Image(Nano Banana)和 Grok Imagine 等闭源商业图像编辑器。作者从系统级视角出发,发现所有主流商业图像编辑系统共有的攻击面:生成前安全审核。即,在图像生成之前,系统会使用审核分类器检查输入图像是否违反政策。MIRAGE 的核心思想是:通过向原始图像添加精心设计的对抗性扰动,使这些审核分类器将图像误判为违反政策的内容(例如暴力、色情等),从而触发系统自动拒绝生成编辑,无论用户输入何种编辑提示。该方法使用一组开源嵌入和审核模型的表示空间,将图像对齐到违反政策的概念。实验表明,MIRAGE 在多个闭源图像编辑 API 上取得了超过 88% 的成功率,且无需知晓具体编辑提示,具有简单、提示无关且有效的特点,为保护个人图像免受未授权的 AI 编辑提供了实用路径。

💡 推荐理由: 该方法为防御 AI 图像编辑滥用提供了新思路,无需依赖模型内部信息,可直接应用于现有闭源服务,对保护个人隐私和防止深度伪造(deepfake)具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)