Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
本文研究了大型语言模型（LLM）推理痕迹的暴露风险。虽然许多部署系统通过界面层隐藏原始推理痕迹，只向用户暴露摘要或最终答案，以防止能力转移，但作者提出了一种轻量级的上下文引导方法——推理暴露提示（REP）。REP利用影子模型生成的示范，以辅
#prompt-attack
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题本文研究了大型语言模型（LLM）推理痕迹的暴露风险。虽然许多部署系统通过界面层隐藏原始推理痕迹，只向用户暴露摘要或最终答案，以防止能力转移，但作者提出了一种轻量级的上下文引导方法——推理暴露提示（REP）。REP利用影子模型生成的示范，以辅