Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors

本文针对大语言模型（LLM）面临的提示注入（Prompt Injection）攻击提出了一种新的防御思路。研究指出，当前模型仅能感知输入的令牌（tokens），虽然服务端清楚每个文本片段属于用户输入、工具输出还是指令，但模型自身却需要自行追

历史摘要 · 未重新核验 · arXiv cs.CR