Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning
本文针对基于大语言模型（LLM）的多智能体系统（MAS）在跨组织协作场景下的安全问题，提出了一种隐私保护的拓扑引导安全机制。现有方法通常假设单一运营方可以汇总所有标注轨迹，在全局通信图上训练图神经网络（GNN）以定位高风险智能体并干预拓扑结
#multi-agent-systems
共收录 6 条相关情报。
← 返回所有主题MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems
本文提出了一种针对基于大语言模型（LLM）的多智能体系统（MAS）中记忆投毒攻击的防御框架 MAPLE-Guard（Memory-Aware Propagation and Link Enforcement Guard）。研究背景是：随着
Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems
该论文研究了基于大语言模型（LLM）的多智能体系统中的故障定位问题。在多智能体系统中，多个LLM驱动的智能体通过协调推理和行动来解决复杂任务，但由于长期交互和智能体行为的紧密耦合，当执行失败时，很难确定哪个智能体负责以及轨迹在哪个点首次变得
An End-to-End Encrypted Control Pipeline for Multi-Agent Coordination via CKKS Homomorphic Encryption
该论文提出了一种基于CKKS全同态加密（FHE）的端到端加密控制管道，用于解决多智能体云协调中的隐私与协作冲突。传统方法需要将智能体状态明文发送给中央服务器，存在隐私泄露风险。FHE理论上允许对密文直接计算，但算术约束苛刻，需重新设计控制环
The Best-Laid SCHEMEs: Coordinated Sabotage and Monitoring in Multi-Agent Systems
本文针对多智能体编程系统中潜在的安全威胁展开研究。随着代理型编码系统将工作分解到多个模型实例上，一个关键的安全问题是这些实例能否在保持与用户意图一致的同时，协调实现隐藏的恶意目标。为此，作者提出了一个名为SCHEME的基准测试，包含17个任
Out of Sight, Not Out of Mind: Unveiling Latent Attack in Latent-based Multi-Agent Systems
该论文研究了基于隐层表示的多智能体系统中的潜在攻击问题。在多智能体系统中，智能体之间通常通过显式文本通信进行协作，但近年来出现了利用隐层表示（如注意力键值缓存）替代部分显式通信的方法，以提高效率和灵活性。然而，这种将协作移入隐空间的做法也可