推荐 5.5
Conf: 50%
本文提出一个名为AgentGuard的基于属性的访问控制框架,旨在解决基于大语言模型(LLM)的智能体在自主调用工具时面临的安全风险。LLM智能体能自动调用多种工具完成复杂任务,但现有应用存在隐私泄露、财产损失甚至系统被完全控制的风险。AgentGuard采用客户端-服务器架构:客户端提供轻量级集成接口,支持不同编程语言和架构的智能体,仅需少量代码修改(约10行)且不改变底层执行逻辑;服务器端提供三种互补的检查机制,分别覆盖单工具调用和跨工具调用的安全风险,并实现可视化前端界面用于安全策略配置和运行时审计。当前AgentGuard已开源发布,地址为https://github.com/WhitzardAgent/AgentGuard。该框架的核心贡献在于为LLM智能体的工具使用提供了一种细粒度的访问控制方案,能够在不侵入智能体核心逻辑的前提下增强安全性。
💡 推荐理由: LLM智能体在调用工具时面临严峻安全威胁,AgentGuard提出了首个基于属性的访问控制框架,为安全从业者提供了一种轻量、可扩展的防护方案,对构建安全的智能体应用具有重要参考价值。
🎯 建议动作: 纳入内部评估
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)