Before Agents Speak: Pre-hoc Failure Risk Inference in Multi-Agent Systems
该论文聚焦于基于大语言模型的多智能体系统(MAS)在协作推理与决策中面临的新型系统性风险:局部幻觉可能沿着智能体之间的通信链路传播,在交互中被放大,最终触发级联故障。现有防御手段大多属于事后(post-hoc)范式,即只有在不安全行为已经出
共收录 1 条相关情报。
← 返回所有主题该论文聚焦于基于大语言模型的多智能体系统(MAS)在协作推理与决策中面临的新型系统性风险:局部幻觉可能沿着智能体之间的通信链路传播,在交互中被放大,最终触发级联故障。现有防御手段大多属于事后(post-hoc)范式,即只有在不安全行为已经出