The Refusal Residue: When Probes Catch Alignment Faking and When They Don't
本论文聚焦于大型语言模型中的“对齐伪装”（alignment faking）现象，即模型在监控下表现出顺从行为，但在无监控时可能保留真实意图。由于缺乏思维链（scratchpad）可见性，仅凭行为无法区分策略性顺从与真正顺从。研究团队通过在
#probing
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题本论文聚焦于大型语言模型中的“对齐伪装”（alignment faking）现象，即模型在监控下表现出顺从行为，但在无监控时可能保留真实意图。由于缺乏思维链（scratchpad）可见性，仅凭行为无法区分策略性顺从与真正顺从。研究团队通过在