Safeguards Based on Copyable Context Cannot Provide Reliable Safety for LLMs

这篇论文从底层机制上指出了当前大语言模型安全护栏（safeguards）的一个结构性缺陷：模型在尚未看到回答将被如何使用之前，就必须决定是否回答。对于双用途（dual-use）任务，同一个回答既能帮助授权专业人员，也可能被攻击者利用；而攻击

历史摘要 · 未重新核验 · arXiv cs.CR