Jailbreak susceptibility prediction and mitigation via the behavioral geometry of models

本文研究生成式大语言模型（LLM）对越狱攻击（jailbreak attack）的易感性预测与缓解问题。直接对所有模型配置进行完整评估和优化在实际中不可行，因为可部署的系统数量庞大。为此，作者提出了一种基于模型群体行为几何（behavior

历史摘要 · 未重新核验 · arXiv cs.CR