Defenses at Odds: Measuring and Explaining Defense Conflicts in Large Language Models
该论文首次系统研究了大型语言模型（LLM）在顺序部署场景下的防御冲突问题。现实应用中，LLM 提供商会不断增量地修补模型以应对新出现的漏洞或数据删除请求，而非从头重新训练。然而，现有防御措施几乎都是在单次部署假设下独立评估的。论文提出了一个
#defense-conflict
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文首次系统研究了大型语言模型（LLM）在顺序部署场景下的防御冲突问题。现实应用中，LLM 提供商会不断增量地修补模型以应对新出现的漏洞或数据删除请求，而非从头重新训练。然而，现有防御措施几乎都是在单次部署假设下独立评估的。论文提出了一个