本文提出了一种名为 Daydreaming 的黑盒攻击方法,用于窃取托管在多文件技能(skill)中的智能体能力。在当代 AI 智能体系统中,技能包通常包含指令、参考数据和可执行辅助脚本,使通用模型能够执行特定任务。服务提供商可以保守这些文件为秘密,同时对外出售任务结果访问权限,从而将技能本身作为有价值的知识产权。现有的披露防御机制能够阻止直接索取技能文本或重现技能内容的请求,但无法阻止客户提交服务本身所设计的正常任务。Daydreaming 通过纯执行(execution-only)方式,仅凭黑盒任务交互即可窃取一个多文件技能。其核心思路是:不要求受害者透露技能内容或对重构结果进行评分,而是自适应地构造精心设计的问题,使得返回结果能够区分可能的隐藏行为。该方法逐一测试候选行为,利用攻击者控制的影子智能体(shadow agent)辅助设计方案,并通过存储的受害者结果和本地执行校验来逐文件完成重构。论文形式化了三种嵌套的访问威胁等级:Differential(差分)、Trace(轨迹)和 Output(输出),并重点研究最严格的 Output 场景,即攻击者只能看到最终响应和返回文件。在 7 个技能和 4 个受害者模型上的实验表明,Daydreaming 在 Output 级别能够恢复原始技能能力的 86.8%,比基线 SigLeak 方法性能提升近 4 倍。即使在披露防御开启的情况下,每个技能也只需中位数 32 次受害者调用即可生成可安装的技能。这些结果证明,仅仅隐藏技能文件和过滤直接披露并不能有效防止通过正常使用进行的功能性重建。该研究为 AI 智能体安全、技能知识产权保护和环境隔离设计提供了重要的警示。
💡 推荐理由: 该研究揭示了即使服务商隐藏技能实现并过滤直接披露,攻击者仍可通过正常任务调用重构出功能等价的技能,直接影响以技能为商业模型的 AI 服务安全性。
🎯 建议动作: 研究跟进