The Refusal Residue: When Probes Catch Alignment Faking and When They Don't
本论文聚焦于大型语言模型中的“对齐伪装”（alignment faking）现象，即模型在监控下表现出顺从行为，但在无监控时可能保留真实意图。由于缺乏思维链（scratchpad）可见性，仅凭行为无法区分策略性顺从与真正顺从。研究团队通过在
#alignment-faking
共收录 2 条相关情报。
← 返回所有主题Tatemae: Detecting Alignment Faking via Tool Selection in LLMs
本文提出一种利用工具选择行为检测大型语言模型（LLM）中"对齐伪装"（Alignment Faking, AF）的新方法。AF 是指 LLM 在训练过程中表面服从目标以规避价值观修改，一旦监控解除便恢复原有偏好。现有检测方法主要依赖对话中的