RADNPO: Reference-free Adaptive Negative Preference Optimization for LLM Unlearning
本文关注大语言模型（LLM）的机器遗忘（machine unlearning）问题：模型在预训练阶段可能记忆敏感、隐私或受版权保护的内容，需要在尽量不重训的前提下定向移除特定知识。现有基于偏好优化（PO）的遗忘方法相比梯度上升（GA）类方法
#preference-optimization
共收录 2 条相关情报。
← 返回所有主题SecAlign: Defending Against Prompt Injection with Preference Optimization.
本文提出一种基于偏好优化的防御方法 SecAlign，用于缓解大型语言模型（LLM）面临的提示注入攻击。在 LLM 与外部数据源（如用户文档、网络检索结果、API 返回等）交互时，攻击者可将恶意提示注入这些外部内容，覆盖系统原有指令并执行恶