AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks

该论文针对大型语言模型（LLM）面临的越狱攻击问题，提出了一种名为 AlcaTRAz（Anchored Tree-Rule defense Against jailbreaks）的提示词级别防御方法。越狱攻击通过精心构造的输入绕过模型的安全

历史摘要 · 未重新核验 · arXiv cs.CR