PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
该论文研究使用工具的大语言模型（LLM）智能体的安全问题。此类智能体把生成文本转化为真实副作用，因此被污染的工具元数据、检索页面、记忆或可复用技能，都可能操纵下一次工具调用。作者指出，仅在准入前审查工件无法解决该问题：一个安全变体与一个泄密
#runtime-enforcement
共收录 4 条相关情报。
← 返回所有主题SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents
该论文《SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents》针对工具调用型语言模型智能体（tool-using agents）提出了一种以「状
Growlithe: A Developer-Centric Compliance Tool for Serverless Applications.
该论文提出了 Growlithe，一款面向服务器无服务器应用的开发者中心化合规工具。服务器无服务器应用由多种编程语言编写的函数、多样化的数据存储和通信服务组成，且快速迭代，这使得租户难以保护应用数据免受因漏洞、配置错误和人为失误导致的意外泄
VIGIL: Runtime Enforcement of Behavioral Specifications in AI Agent Skills
本文提出VIGIL，一个针对AI智能体系统的运行时执行强制框架。随着智能体系统越来越多地通过第三方技能（skills）执行操作，这些操作可能影响文件、通信渠道和网络物理设备，因此需要有效的安全监控。技能通常附带自然语言规范，定义访问权限、披