Where Do LLMs Decide to Break the Rules? Mechanistic Localization of Prompt Injection Compliance

该论文研究的是提示注入（prompt injection）攻击成功时，大语言模型内部究竟在何处「做出违反系统角色设定的决定」这一机制性可解释性问题。作者指出，既有工作大多停留在量化攻击成功率（即模型有多频繁地服从对抗性指令），而忽视了决策发

历史摘要 · 未重新核验 · arXiv cs.CR