From Monoliths to Swarms: A Study of Attack Surface Evolution in the Transition to Multi-Agent Web Systems
本文研究了基于大语言模型(LLM)的网页智能体从单智能体系统(SAS)向多智能体系统(MAS)演进过程中攻击面的演化。多智能体系统通过将复杂任务分解给多个专用子智能体来提升性能,但这种角色分解引入了单智能体系统中不存在的新型结构攻击面。作者
共收录 2 条相关情报。
← 返回所有主题本文研究了基于大语言模型(LLM)的网页智能体从单智能体系统(SAS)向多智能体系统(MAS)演进过程中攻击面的演化。多智能体系统通过将复杂任务分解给多个专用子智能体来提升性能,但这种角色分解引入了单智能体系统中不存在的新型结构攻击面。作者
大型语言模型驱动的Web代理(Web Agent)正越来越多地被部署在真实环境中,它们需要处理不可信的网页内容并执行具有直接后果的操作,因此容易受到提示注入攻击——看似良性的内容中嵌入对抗性指令以操纵代理行为。现有的安全基准采用“攻击中心”