Selection-Aware Diagnostics for Chain-of-Thought Answer Hijacking

本文研究链式思维（CoT）答案劫持的检测与诊断方法。答案劫持是指模型在推理过程中看似合理的推理步骤最终导向错误答案的安全漏洞。作者首先构建了一个受控的数值代理场景：在GSM8K和MATH-500数据集上，对Qwen2.5-7B和Llama3

历史摘要 · 未重新核验 · arXiv cs.CR