本文研究视觉-语言智能体系统(VLAS)中的后门攻击问题。VLAS将视觉感知与规划、工具使用和物理动作相连接,因此后门触发器可以通过决策管线及其连接的接口传播,使视觉后门成为系统级威胁。当前评估仅关注干净准确率和攻击成功率(ASR),这些指标只衡量触发器是否有效,但无法判断攻击是否“精确”——即是否仅在预期条件下触发隐藏行为。本文形式化了触发器不精确的失败为“触发器泄露”:视觉或语义上与预期触发器相近的输入,无意中激活了攻击者指定的行为。为量化泄露,作者提出邻域泄露率(NLR)。实验表明,在3%的投毒比例下,图标和文本触发器对常见视觉变换保持鲁棒,但其邻近变体泄露严重,NLR分别达到0.996(图标)和0.944(文本)。使用文本触发器作为受控探针,结果表明标准微调学习到一个较宽的激活区域而非精确触发条件,导致即使是稍有不同的邻近字符串也会调用恶意行为。通过加入编辑距离为1的硬负样本进行训练,可以显著缩小激活区域并减少泄露,在图像编辑和具身操作工作流中,泄露的触发器可能传播到可执行程序和动作序列。本研究的贡献在于正式定义了触发泄露问题,提出了NLR指标,并展示了通过硬负样本训练来缓解泄露的方法。适合对AI安全、后门攻击防御感兴趣的学术界和工业界研究人员阅读。
💡 推荐理由: 后门攻击在VLAS中的精确性问题常被忽视,本工作揭示了标准评估指标的盲区,并提出NLR新指标,为提升智能体系统安全性提供了新视角。
🎯 建议动作: 研究跟进