Refusal Before Decoding: Detecting and Exploiting Refusal Signals in Intermediate LLM Activations

本文研究了大语言模型（LLM）在解码前中间激活层中拒绝行为（refusal）的可预测性。作者通过在每个Transformer块的残差流激活上训练线性探针（linear probes），发现拒绝行为在最终层之前即可被线性解码，表明安全相关行为

历史摘要 · 未重新核验 · arXiv cs.CR