#cond-mat.dis-nn

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Rishabh Sharma, Stefano Martiniani

这篇论文提出了一种名为“循环去噪”(cyclic denoising)的新型提取攻击方法,用于从图像扩散模型中提取训练数据中的记忆化图像。该方法受无序固体中随机组织的启发,通过在受控噪声幅度下重复进行前向和反向扩散过程,使得样本被驱动向具有广泛稳定性谱的吸引子。其中最深层的吸引子具有超稳定性:即使在近乎完全破坏后仍能再生,并能承受数千次噪声-去噪循环。许多这样的吸引子对应于记忆化的训练图像,包括库存照片、品牌水印和网络爬取的人工制品。该攻击仅需采样器级别的控制,无需梯度、权重检查、提示、标题或对训练数据的先验知识。与需要大规模提示生成和事后相似性过滤的生成-过滤攻击不同,该协议完全无条件。作者在Stable Diffusion v1.4和像素空间DDPM上展示了该现象,结果表明循环去噪既是生成景观的物理启发探测工具,也是记忆化审计的实用方法,对隐私保护、版权合规和模型指纹识别具有重要意义。论文还观察到了屈服-like转变、层次部分吸收、提示稳定吸引子和跨初始条件的吸引子集合普遍性等特性。

💡 推荐理由: 该攻击无需复杂资源即可揭露扩散模型中的记忆化训练样本,对生成式AI的隐私合规、版权保护和模型审计提出新挑战,值得安全从业者关注。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)