When Agents Go Rogue: Activation-Based Detection of Malicious Behaviors in Multi-Agent Systems
该论文关注基于LLM的多智能体系统（MAS）面临的安全挑战。现有防御方法通常假设攻击在语义上显式可识别，并依赖显式的图结构建模MAS拓扑和Agent间交互。然而，实际攻击越来越隐蔽，且MAS执行通常是异步的，不满足图传播模型所需的时间对齐。
#multi-agent-system
共收录 3 条相关情报。
← 返回所有主题MAStrike: Shapley-Guided Collusive Red-Teaming on Multi-Agent Systems
该论文聚焦于层级多智能体系统（MAS）的安全性问题，该类系统正快速部署于金融、软件工程等高风险工作流中。由于安全和保障职责分散在不同角色的智能体之间，攻击面显著扩大，尤其是面临权限提升和跨智能体共谋等协调性对抗行为时。现有红队测试方法存在局
SAIGuard: Communication-State Simulation for Proactive Defense of LLM Multi-Agent Systems
该论文针对基于大语言模型（LLM）的多智能体系统（MAS）面临的安全威胁，提出了一种主动防御框架 SAIGuard。在 MAS 中，智能体通过通信协作完成复杂任务，但攻击者可利用恶意消息在智能体间传播风险，导致系统级故障。现有防御方法多为被