该论文研究了针对大语言模型蒸馏攻击的防御措施在攻击者后续进行强化学习训练时失效的问题。蒸馏攻击指攻击者系统性地收集闭源前沿模型的推理轨迹，并以此训练自己的模型，从而以低成本复制其推理能力。现有防御通常只在蒸馏完成后立即评估，隐含假设攻击者不会进一步训练。本文指出更现实的威胁模型应包含蒸馏后的强化学习微调。作者论证，威胁模型设定不当会带来虚假安全感：一些在蒸馏后看似有效的防御，在后续RL训练后可能被突破。实践上，RL降低了蒸馏攻击生效的门槛。他们展示，简单攻击即可利用当前API容易获取的数据从现有闭源语言模型中窃取推理能力，其推理提升效果等同于那些提取完整隐藏轨迹的更复杂攻击。结果表明，任何泄漏足以重建近似推理轨迹信息的蒸馏防御很可能无效。最后讨论了更广泛的影响以及可能更有效的批量级蒸馏防御。