本文提出 Skynet,一个面向 Agentic AI 的工作流级异常检测框架。Agentic AI 系统通过长期多步骤工作流执行复杂任务,涉及规划、工具调用和多智能体协作。任务失败往往起源于单个步骤(如注入提示或错误计划),并通过下游依赖被放大,影响后续多个智能体和工具调用。现有防御要么针对特定攻击/失败类型,要么孤立地检查单个提示或步骤,忽视了完整工作流的全局依赖结构,无法捕捉仅在整体执行视角下才显现的不一致性。Skynet 的核心思想是:异常检测必须在工作流层面进行,因为全局执行结构能暴露局部检查无法发现的信号。该方法将观测到的多智能体执行过程转化为有向工作流图,并基于学习到的良性行为进行评分。Skynet 联合建模语义执行上下文与结构组织,包括智能体间委托、工具调用和数据流依赖,并且仅使用良性工作流训练。由于训练阶段从未见过攻击或失败,该设计天然支持零日检测:任何违反良性工作流规律的执行都会在单一决策规则下呈现为流形外几何形态。作者在三个公开的智能体安全与故障基准上评估了 Skynet,结果显示其保持高召回率的同时,误报率低于 1%,且每个工作流和每个步骤的延迟足够低,适用于 Agentic AI 运行时的在线监控。该框架为智能体系统的运行时防护提供了一种新的工作流级异常检测思路,适合安全研究人员和 AI 系统开发人员阅读,以理解如何通过结构化和语义建模增强对未知威胁的检测能力。
💡 推荐理由: 该框架首次提出针对 Agentic AI 的工作流级异常检测,弥补了当前仅关注单步或特定攻击的防御盲区。它利用良性工作流建模实现零日检测,对 AI 系统运行时安全监控具有直接参考价值,值得安全从业者关注并探索其在实际平台中的适配。
🎯 建议动作: 研究跟进