Re-Triggering Safeguards within LLMs for Jailbreak Detection

该论文提出了一种针对大型语言模型（LLM）的越狱提示检测方法，旨在防御越狱攻击。尽管当前LLM已内置安全机制，但攻击者仍可能构造绕过这些机制的越狱提示。作者认为此类越狱提示本质上具有脆弱性，因此引入了一种嵌入扰动（embedding dis

历史摘要 · 未重新核验 · arXiv cs.CR