Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders

该论文针对大语言模型（LLM）后门防御碎片化的问题，首次利用稀疏自编码器（SAEs）从特征层面进行系统的机制性分析，以解释为何现有防御方法难以统一应对不同标记类型的后门攻击。后门攻击通过在训练数据中注入触发模式，使模型在特定输入下产生恶意行

历史摘要 · 未重新核验 · arXiv cs.CR