该论文提出了一种名为 JADR(Jacobian Assessment of Danger Recognition)的新型协议,用于评估大语言模型(LLM)对越狱攻击的鲁棒性。与传统的基于LLM作为评判者的方法不同,JADR通过分析模型在生成第一个响应token之前的内部表示(即Jacobian空间,简称J-space)来直接探测模型对危险内容的识别能力。具体而言,对于每个输入提示和模型层,JADR记录top-k J-space tokens,并将其映射到六个行为情景轴;然后比较危险样本(基于StrongREJECT)和安全控制样本(来自XSTest和OKTest)在这些轴上的差异。该方法完全在待评估模型的激活值上本地运行,无需外部评判模型,因此可以公平地比较不同模型之间以及同一模型的不同修改(如量化、微调)。论文提出了SafetyAUC指标,并辅以bootstrap置信区间。实验涵盖了六个模型(Qwen3-1.7B、Qwen3-4B、Qwen3-8B、Qwen3-Uncensored-4B、Qwen3-SafeRL-4B、Gemma 2 9B)在BF16、INT8和INT4三种权重表示下的表现,并与StrongREJECT评判器的独立行为评估进行了对比。结果表明,该指标能够以统计显著性区分具有强内部安全机制和弱内部安全机制的模型,并捕捉到不同量化制度下的实质性差异。这项研究为评估LLM安全性提供了一种新的内部表征视角,有助于更深入地理解模型安全机制的稳健性。
💡 推荐理由: 该研究提供了一种无需外部评判模型即可评估LLM内部安全机制的方法,能更直接地揭示模型对越狱提示的脆弱性,有助于开发更鲁棒的安全对齐技术。
🎯 建议动作: 研究跟进