大型语言模型(LLM)智能体在动态环境中自主执行复杂操作,将语义推理与系统操作交织在一起。传统的静态工具级权限在这种环境下显得力不从心,因为安全授权高度依赖上下文,并受运行时状态和数据流变化的影响。为此,本文提出 FAVA(Formal Authorization for Verified Agents),一种面向智能体执行的携带权限的授权框架。FAVA 利用 LLM 引导的权限中间表示(Permission IR)将模糊的自然语言任务转换为结构化约束;随后通过确定性的降级过程(lowering pass)将该 IR 转换为显式追踪数据流、依赖关系和上下文标签的“基于证据的权限图”(evidence-backed permission graph)。为了提供严格的安全保证,FAVA 引入基于可满足性模理论(SMT)的授权器,在任何有副作用的动作执行之前,对当前权限图与安全策略进行数学验证;运行时网关强制执行求解器的结果,要么授权执行,要么通过精确的反例进行拦截。作者在 OpenAgentSafety、OctoBench 和 ActPlane 场景上评估了 FAVA。实验结果表明,在聚合数据集上 FAVA 达到了 90.5% 的决策合规率(DCR),并在给定的轨迹条件场景中成功拦截了动态违规轨迹。该研究的核心贡献在于首次将形式化验证(SMT)与 LLM 智能体的动态授权相结合,实现了可证明安全的权限决策。适合对 LLM 智能体安全、形式化验证与安全策略自动推理感兴趣的研究人员和开发者阅读。
💡 推荐理由: LLM 智能体权限管理是当前安全盲区,静态工具权限无法应对动态上下文。FAVA 用 SMT 形式化验证权限图,提供了可证明安全的授权机制,为智能体安全落地提供新思路。
🎯 建议动作: 研究跟进