#teacher-student

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Mohsen Salehi, Karthik Pattabiraman

该论文关注基于强化学习(RL)的无人机(UAV)导航与控制器的运行时安全问题。近年来,RL 控制器因其在复杂机动与自主导航中的表现被广泛用于无人机控制,但这类策略存在一个关键且常被忽视的攻击面:动作空间攻击。攻击者并不篡改策略的观测输入,而是在策略已经生成动作指令之后、执行器真正执行之前,直接覆写或篡改动作命令,使无人机执行与策略意图不一致的机动,可能导致偏航、任务失败甚至坠毁。现有防御大多针对策略输入(观测)层面的对抗扰动,少数针对动作空间攻击的方案则是在训练阶段重新训练策略,使其在训练分布内更鲁棒,但这类方法无法在运行时对已被污染的动作指令做出响应,一旦攻击模式或注入方式超出训练假设便失效。 为弥补这一缺口,作者提出 ASGARD,一个两阶段“教师—学生”流水线,用于提升 RL 无人机控制对动作空间攻击的运行时韧性。第一阶段为教师阶段:编码器将无人机的物理状态与“动作攻击相关的特权信息”(privileged information,即在真实部署中不一定可直接获得、但在训练/仿真中可知的攻击上下文)联合编码,生成一个对动作攻击敏感的隐表示(action-attack-aware latent)。该隐表示同时用于训练两个组件:一是 RL 控制策略本身,二是监控器(monitor),后者负责在执行器前输出修正后的动作指令,从而抵消被篡改的命令。第二阶段为学生阶段:编码器与监控器通过监督学习从各自的教师版本中蒸馏出来,使它们在部署时仅依赖无人机物理状态的历史序列即可在机载运行,不再需要特权攻击信息。 实验部分,作者在多种针对不同动作指令的攻击场景下评估 ASGARD,结果显示其能够在遭受动作空间攻击时保持韧性并完成任务;此外还验证了 ASGARD 对未见过的攻击类型具有泛化能力,并且在隐蔽(stealthy)攻击下仍能维持韧性。该工作适合研究 RL 安全、机器人/无人系统安全、运行时监控与防御性蒸馏的研究者与安全工程师阅读,也为机载轻量级运行时防护设计提供了可借鉴的两阶段范式。

💡 推荐理由: 无人机 RL 控制器的动作空间攻击位于策略输出与执行器之间,属于典型的运行时完整性缺口。ASGARD 给出无需特权信息、可机载部署的监控器方案,对无人系统与机器人安全的运行时防护设计有直接参考价值。

🎯 建议动作: 研究跟进,并纳入内部无人系统/机器人 RL 控制安全评估清单

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)