#hypernetwork

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yi Sun, Xinhao Zhong, Zhiqi Zhang, Yimin Zhou, Junhao Li, Yuxia Qiao

该论文关注文本到图像(T2I)生成模型中的概念擦除安全技术。背景是 T2I 生成能力增强,但可能生成有害或不良内容。现有概念擦除方法多采用静态权重范式:训练一个冻结的适配器,难以适应多样化的提示词变化,并且在扩展到多个概念时会出现参数干扰。作者提出 HyperErase,一种基于超网络驱动、以提示词为条件的参数合成框架。其核心思路是把概念擦除重新定义为提示词条件下的参数摊销,训练超网络将文本描述映射为特定提示词的 LoRA 更新,从而不需要逐提示词梯度优化,也无需手动合并 LoRA。为提升合成适配器的稳定性与精度,论文设计解耦校正策略:将 LoRA 令牌解耦为模式子空间和尺度子空间,对尺度应用平方根变换以抑制乘性过度缩放,并利用教师模型导出的规范先验进行推理时校正。实验覆盖主要概念类别,证明 HyperErase 在擦除效果、图像质量和语义对齐之间取得更优权衡,性能可与金标准单概念基线相当。生成的模型可在单次前向传播中为每个输入提示词变体提供专门 LoRA,且推理阶段无需梯度更新。适合关注生成式 AI 安全、模型对齐、内容治理与红队防御的研究者和工程师阅读。

💡 推荐理由: 为大模型生成内容治理提供新思路:以超网络按提示词动态合成擦除适配器,缓解多概念擦除中的参数干扰和泛化不足,对 T2I 安全发布和合规过滤有直接参考价值。

🎯 建议动作: 研究跟进并纳入内部评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)