该论文提出了一种针对大型语言模型（LLM）的越狱提示检测方法，旨在防御越狱攻击。尽管当前LLM已内置安全机制，但攻击者仍可能构造绕过这些机制的越狱提示。作者认为此类越狱提示本质上具有脆弱性，因此引入了一种嵌入扰动（embedding disruption）方法，通过重新触发LLM内部的安全机制来检测越狱提示。与以往将防御方法作为独立解决方案的做法不同，该方法通过与LLM内部防御机制协同工作，通过重新激活它们来实现检测。通过大量分析，作者深入理解了扰动效应，并开发了一种高效的搜索算法来识别适当的扰动，以实现有效的越狱检测。实验表明，该方法在白盒和黑盒设置下均能有效防御最新的越狱攻击，并且即使面对自适应攻击也保持鲁棒性。该方法适用于需要增强LLM安全性的场景，尤其适合安全研究人员和AI开发者。