ToolGuardian: Declarative Security for AI Agent-Tool Interactions
大型语言模型（LLM）代理日益依赖外部工具来扩展能力，但这也引入了新的安全边界：第三方工具可能在接口层面看似无害，而在实现中嵌入不安全行为。现有防御机制依赖弱元数据、将特征描述和策略判断合并为单一决策、或使用缺乏确定性、可审计推理的启发式/
#policy-driven-security
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题大型语言模型（LLM）代理日益依赖外部工具来扩展能力，但这也引入了新的安全边界：第三方工具可能在接口层面看似无害，而在实现中嵌入不安全行为。现有防御机制依赖弱元数据、将特征描述和策略判断合并为单一决策、或使用缺乏确定性、可审计推理的启发式/