Enforcing Benign Trajectories: A Behavioral Firewall for Structured-Workflow AI Agents

本论文提出了一种名为 CodeName 的行为防火墙，用于保护由大语言模型驱动的结构化工作流 AI 代理。这类代理会对外部敏感环境执行工具调用，面临被攻击者利用的风险。研究背景基于序列入侵检测思想，核心方法是将经过验证的良性工具调用遥测数据

历史摘要 · 未重新核验 · arXiv cs.CR