Trust Me, I'm Your Developer: Self-Issued Authentication in Large Language Models

该论文研究了大型语言模型（LLM）在身份验证场景中的一种新型安全失效模式。传统上，LLM安全研究多集中于角色扮演类越狱，而忽略了当用户要求模型通过一个由模型自身设计的测试来验证身份声明时会发生什么。作者对ChatGPT、Claude、Qwe

历史摘要 · 未重新核验 · arXiv cs.CR