Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses

本文针对大语言模型的自检查防御机制提出了一种组合攻击方法。自检查防御要求目标模型在回答前先评估请求是否具有攻击性，其中SAGE被报告具有平均99%的防御成功率。作者发现，将两种已知攻击——代码补全编码和最佳N搜索——组合起来，可以突破SAG

历史摘要 · 未重新核验 · arXiv cs.CR