该论文关注基于LLM的多智能体系统（MAS）面临的安全挑战。现有防御方法通常假设攻击在语义上显式可识别，并依赖显式的图结构建模MAS拓扑和Agent间交互。然而，实际攻击越来越隐蔽，且MAS执行通常是异步的，不满足图传播模型所需的时间对齐。为此，作者提出AcMAS，一种基于激活空间的恶意行为检测框架。AcMAS通过分析本地Agent内部推理状态的激活空间，无需依赖显式交互图，即可同步鲁棒地检测隐蔽攻击。此外，激活分析能指导AcMAS恢复受损Agent的功能，而非简单地隔离。实验表明，AcMAS在同步设置下F1达0.94（优于基线0.72），在异步设置下F1达0.93（优于基线0.38），且能泛化到不同的开源LLM骨干、攻击强度和MAS规模。该工作为MAS安全性提供了新视角，适合AI安全研究人员、SOC分析师及系统设计者阅读。

该论文聚焦于层级多智能体系统（MAS）的安全性问题，该类系统正快速部署于金融、软件工程等高风险工作流中。由于安全和保障职责分散在不同角色的智能体之间，攻击面显著扩大，尤其是面临权限提升和跨智能体共谋等协调性对抗行为时。现有红队测试方法存在局限：依赖启发式选择目标智能体并扰动孤立消息流，未能解答哪些智能体对系统安全最负责，以及受损智能体如何协调绕过防御。为此，作者提出MAStrike框架，一种用于层级MAS的闭环共谋红队测试方法。主要贡献包括：首次提出面向MAS的智能体级Shapley值分析，量化每个智能体在任务特定分布下对系统鲁棒性的边际贡献；基于该归因，MAStrike识别脆弱智能体联盟并生成协调的、角色感知的对抗操纵；通过结构化因果诊断迭代优化攻击，将失败案例归因于阻止对抗尝试的未妥协智能体。此外，构建了涵盖多种层级拓扑和领域（金融、软件工程、CRM）的综合性MAS红队测试基准与可控环境。在多个前沿模型构建的MAS上进行的广泛实验表明，MAStrike显著优于启发式基线。分析还揭示了非平凡的Shapley值分布及智能体间高阶交互结构，暴露出被先前单智能体或模板方法忽视的关键脆弱性与协调模式。该研究为理解和防御多智能体系统的协同攻击提供了新视角和方法。

该论文针对基于大语言模型（LLM）的多智能体系统（MAS）面临的安全威胁，提出了一种主动防御框架 SAIGuard。在 MAS 中，智能体通过通信协作完成复杂任务，但攻击者可利用恶意消息在智能体间传播风险，导致系统级故障。现有防御方法多为被动反应式，即在攻击执行后检测和隔离有害智能体，这可能导致不可逆的损害并降低协作效率。SAIGuard 采用通信状态模拟技术，对 MAS 交互图进行仿真，估计传入消息对局部智能体状态和全局 MAS 状态的影响。通过重构偏差检测，SAIGuard 能够识别偏离良性通信模式的危险消息，并在其传播之前对其进行净化或重新生成。实验在多种拓扑结构和攻击场景下进行，结果表明 SAIGuard 在保持 MAS 实用性的同时，显著降低了攻击成功率，性能优于现有的反应式防御。该研究为 LLM 多智能体系统的安全提供了一种前瞻性的主动防御思路。