#智能体安全

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Alfredo Metere

该论文针对大语言模型(LLM)智能体与外部工具服务器之间通信的安全隐患,提出了一种名为“mcp-attested”的安全扩展机制。当前模型上下文协议(MCP)仅标准化了消息交换格式,但缺乏信任基础:主机(host)直接读取工具服务器自声明的工具列表并派发调用,无法限制可用的服务器、敏感级别或允许的工具范围。作者基于一个实际需求——让Enclawed智能体安全地使用谷歌的MCP服务器(Gmail、日历、Drive),在不改动MCP或Enclawed自身工具API的前提下,设计了三层增量机制:(1)服务器在已知URI发布离线签名的权限断言(clearance assertion),主机在首次工具派发前通过锚定的信任根验证该断言;(2)默认拒绝的每服务器工具允许列表,确保接入服务器不等于信任其全部工具;(3)基于特性门控的强制模式,将警告变为硬性拒绝,并将所有决策写入防篡改审计日志。论文给出了线格式、验证算法、安全性分析以及LLM驱动的对抗评估,并以RFC 2119规范形式陈述了模式、验证规则、错误注册、知名URI注册和机器可检查的一致性向量,使其可作为MCP的补充标准被采纳。未扩展的主机将忽略该知名文档,行为与当前完全相同。该研究适合关注LLM安全、MCP协议设计及智能体系统安全的研究者和工程团队阅读。

💡 推荐理由: 该工作填补了MCP协议在身份验证和权限控制方面的空白,为LLM智能体安全接入第三方工具提供了可落地的标准化方案,对防御者而言能有效降低因过度信任工具服务器导致的数据泄露风险。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)