#llm-unlearning

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Shenghan Tan, Ziyi Zhou, Wenpeng Hu, Mengyuan Zhang

本文关注大语言模型(LLM)的机器遗忘(machine unlearning)问题:模型在预训练阶段可能记忆敏感、隐私或受版权保护的内容,需要在尽量不重训的前提下定向移除特定知识。现有基于偏好优化(PO)的遗忘方法相比梯度上升(GA)类方法在训练稳定性上更优,能够有效压低遗忘目标(forget target)的 token 概率。但作者指出,仅做目标抑制并不足以约束遗忘后的 next-token 分布:现有方法对“被抑制的概率质量如何重新分配”控制有限,也未根据目标置信度与分布集中度自适应调整遗忘强度;即使目标概率被压低,概率质量仍可能集中在少数非目标 token 上,导致模型输出重复、空洞或无信息。为此,作者提出无参考自适应负偏好优化 RADNPO:它不需要参考模型(reference-free),在训练中将每个遗忘目标与当前 next-token 分布所偏好的替代 token 进行对比(contrast),并依据目标置信度和 next-token 分布集中度自适应地调节 token 级遗忘强度,从而显式引导概率质量向更合理的替代 token 重分配。在 TOFU 与 MUSE 两个遗忘评测基准上,RADNPO 在遗忘质量与模型可用性(utility)之间取得了优于现有基线的折中,说明对概率重分配与自适应强度的显式建模是提升遗忘效果的重要方向。

💡 推荐理由: 机器遗忘是 LLM 合规与隐私治理的关键环节。该工作指出仅压制目标概率会留下分布失衡隐患,并给出无参考、自适应的概率重分配方案,为评估与加固遗忘后模型行为提供新视角;安全团队在部署遗忘模型时应同时关注输出质量退化与残余知识泄露风险。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)