#partial-observability

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Oubo Ma, Yuwen Pu, Linkang Du, Yang Dai, Ruo Wang, Xiaolei Liu 0001, Yingcai Wu, Shouling Ji

多智能体强化学习(MARL)在无人机集群控制、机器人协同操作等领域的广泛应用前景,但其部署过程中存在的安全威胁尚未得到充分研究。已有工作主要聚焦于完全可观测环境下的双人竞争场景,攻击者能够利用受害者的漏洞生成对抗策略,例如将超人类水平的围棋AI胜率降至20%左右。然而,实际应用中攻击者往往只能获得部分观测信息。本文首次揭示了在部分观测的多智能体竞争环境中,攻击者仍能生成有效对抗策略的能力。为此,作者提出了一种名为SUB-PLAY的新型黑盒攻击方法,其核心思想是构建多个子游戏(sub-games)以减轻部分可观测性的影响,并通过子策略之间共享转换(transitions)来提升攻击者的利用能力。在三种典型的部分观测限制条件下进行的广泛评估验证了SUB-PLAY的有效性。可视化结果表明,对抗策略会显著改变受害者策略网络的激活模式。此外,论文还评估了三种潜在防御措施,旨在探索缓解对抗策略安全威胁的途径,并为在竞争环境中部署MARL提供了建设性建议。本研究为MARL系统的安全部署敲响警钟,并为后续防御研究奠定了基础。

💡 推荐理由: 该研究首次证明在部分观测条件下攻击者仍能生成对抗策略,挑战了现有MARL系统安全性假设,对无人机集群、机器人协作等现实应用构成潜在威胁,亟需引起安全社区重视。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)