推荐 5.5
Conf: 50%
本文针对大语言模型(LLM)作为高层规划器在具身多机器人系统中的应用,系统研究了多机器人协作中通信环节的安全威胁。以往研究主要关注单个机器人的安全性,对多机器人协同通信风险的理解不足,且现有工作仅针对去中心化多智能体系统(DMAS)架构进行了初步分析,未覆盖其他常见通信架构。为填补这一空白,作者根据攻击者的访问权限设置了两种通信攻击:外部入口点攻击(External Entry Point Attack)和特权系统内部攻击(Privileged In-System Attack),并在DMAS、HMAS-1、HMAS-2三种架构上,利用三个LLM和五个具身多机器人任务进行了全面评估。实验结果表明,不安全信息可以在所有三种架构中转化为不安全动作:DMAS达到96.7%的入口背书率和100%的背书后激活率;HMAS-1达到97.8%的不安全动作成功率;HMAS-2触发了88.3%的任务定义不安全动作槽位。为缓解可信信息流被污染的风险,作者提出了声明来源与验证(Claim Provenance and Verification, CPV)门控机制,在信息下游复用前对通信声明进行验证,将违规率从70.0%降至36.6%。该研究揭示了多机器人通信架构中的系统性安全风险,并提出了有效的缓解手段,适合机器人安全、LLM智能体安全以及多智能体协作系统的研究者和工程人员阅读。
💡 推荐理由: 多机器人系统正越来越多地依赖LLM进行规划,通信链路的攻击可导致实体机器人执行危险动作,影响物理世界安全。该研究首次跨架构验证了通信攻击的泛化性,并给出可落地的防御机制,是LLM智能体安全的重要延伸。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)