本文深入研究了大型语言模型（LLM）遗忘中的反事实调优（CFT）范式。CFT通过训练模型生成替代的虚构知识来取代不需要的内容，是一种有前景的遗忘方法。然而，作者发现CFT在某些方面仍不如其他遗忘范式，并揭示了两个被忽视的缺陷：（1）知识冲突：反事实语料库内部的相互不一致导致梯度冲突，从而干扰参数优化；（2）幻觉扩散：拟合虚假目标会灌输持久的捏造偏见，增加无关领域的幻觉率。为了系统诊断这些问题，作者引入了RWKU+基准，该基准配备了新的权衡指标和梯度级诊断工具。论文进一步讨论了该范式的局限性和开销，旨在为更严格的LLM遗忘研究提供见解和可操作指导。适合LLM安全研究、模型遗忘技术开发者阅读。