该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是:智能体通过外部工具执行多步任务时,工具返回的不可信内容(如网页、文档、第三方 API 输出)会作为上下文回流进模型,进而影响后续动作决策,导致攻击者可通过间接提示注入(indirect prompt injection)诱导智能体执行超出用户原始授权的操作。现有防御要么只做注入内容隔离,要么依赖预先定义的计划与静态策略来约束执行,在任务动态分支、工具生态可扩展的场景下要么过于脆弱、要么难以规模化。ActGov 的核心思路是把防护点前移到“每一次由 LLM 提议的工具动作产生外部副作用之前”,进行逐一校验。方法上包含两个组件:ActGov-Policy 基于一个统一语义模型(涵盖授权、动作、运行时上下文、安全约束四类要素),从工具规格说明、良性任务样例以及实际观测到的失败轨迹中迭代式地构建策略集合,每轮策略更新都用基于 SMT 的反例检查来验证其正确性与不冲突性,从而降低误报与漏报;ActGov-Runtime 在运行时把每次工具调用抽象为有限条策略记录,仅当该调用仍处于任务作用域内的授权边界且满足所有适用策略时才放行。这种逐动作(per-action)的强制校验使授权约束能够在长周期、动态分支的工作流中持续生效,而不依赖底层 LLM 能够正确识别恶意指令。实验部分在 AgentDojo 与 AgentDyn 两个基准上、跨多个模型与多种攻击配置进行评估,结果显示 ActGov 在保持任务效用(utility)的同时持续降低间接提示注入攻击的成功率,并显著优于现有防御方案。主要贡献可归纳为:提出面向动作级授权的统一语义建模与策略迭代+形式化验证生成流程;给出可在动态工作流中持续生效的运行时强制机制;在两个公开基准上给出多模型、多攻击配置的实证对比,证明无需依赖模型的指令判别能力即可实现细粒度授权。适合关注 LLM 智能体安全、提示注入防御、策略引擎与形式化验证、以及 SOC 中自动化代理治理的读者阅读。
💡 推荐理由: 智能体被授予真实工具权限后,间接提示注入可直接转化为越权操作(转账、发信、改配置)。该工作把授权检查落到每一次工具调用之前,并用 SMT 反例验证策略正确性,为“模型不可信、但执行必须可控”提供了一条可工程化的治理路径。
🎯 建议动作: 研究跟进:精读原文以确认策略语言表达力、SMT 验证开销与运行时性能,评估在本方智能体编排层落地动作级策略执行点的可行性,并纳入内部评估。