推荐 3.5
Conf: 50%
该论文研究了大型视觉语言模型(LVLM)在机器人系统中可能存在的“过度思考”行为,即模型生成过长的推理链,导致推理时间显著增加。这种过度思考行为可以被攻击者利用,通过在机器人感知的视觉场景中嵌入精心构造的、人类可读的场景文本,来触发过度思考,从而故意减慢机器人系统的决策速度,引发一系列安全问题,即过度思考引发的减速攻击。论文提出一个三阶段框架来系统性地识别和验证机器人系统中过度思考的可迁移触发因素:首先,构建一个多样化的推理密集型场景文本语料库,并从短响应前缀中提取与过度思考相关的词汇特征;其次,基于前缀代理分数进行高效的黑盒搜索,并通过完整延迟测量确认少量候选触发词;最后,在未见过的图像和多个LVLM上评估触发词的黑盒迁移性,报告延迟放大倍数和攻击成功率。实验在三个代表性LVLM上进行,所有触发词均产生大于1.0倍的减速比,最强单触发词达到6.96倍;物理打印的文本触发词仍能引起高达4.74倍的延迟放大。结果表明,发现的触发词可在多个LVLM模型间迁移,并持续对机器人系统造成显著减速。
💡 推荐理由: 揭示了LVLM在机器人应用中的新安全漏洞,可能被用于物理世界中的拒绝服务攻击,值得机器人安全研究人员和LVLM开发者关注。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)