#graph-theory

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Kunyang Li, Kyle Domico, Jonathan Gregory, Patrick McDaniel

本文针对多智能体系统(MAS)中智能体间通信信道面临的未知攻击面问题,提出了一种名为MESA的标签无关框架。研究背景是MAS在自动化复杂分布式工作流中日益普及,但智能体间通信链路引入的新攻击面缺乏有效防御手段。作者观察到,不同通信链路(边)的攻击影响极不均匀:单条被攻陷的边可导致高达75%的攻击成功。因此,如何在没有历史攻击记录的情况下,优先保护最脆弱的通信信道成为关键问题。MESA框架融合了六种图论指标(如中心性、介数等)和两种动态探测技术(消融与掩蔽),无需攻击痕迹即可对每条边进行安全关键性排序。实验在三个不同MAS场景、八种网络拓扑以及Qwen、Llama、Gemma系列的五种开源大语言模型上,针对动态错误信息攻击管线进行了评估。结果表明,MESA排序与每条边的实证攻击成功率高度相关,平均斯皮尔曼相关系数ρ=+0.60(最高+0.73)。在资源受限的防御部署中,监控MESA排名前10%的边可拦截约3倍于随机分配的成功攻击。此外,本文还测试了MESA在不同攻击者/防御者模型以及LangGraph工作流下的表现,并分析了其在自适应攻击和高冗余图下的局限性。总体而言,研究证实MAS中边级风险往往集中且可预测,为主动加固多智能体基础设施提供了可行方法。本工作适合安全研究人员、MAS开发人员以及关注AI系统安全性的从业者阅读。

💡 推荐理由: 为多智能体系统提供了一种主动识别最脆弱通信链路的无监督方法,显著提升有限安全资源的利用效率。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)