Overthink-Triggered Slowdown Attacks on LVLM-Based Robotic Systems
该论文研究了大型视觉语言模型（LVLM）在机器人系统中可能存在的“过度思考”行为，即模型生成过长的推理链，导致推理时间显著增加。这种过度思考行为可以被攻击者利用，通过在机器人感知的视觉场景中嵌入精心构造的、人类可读的场景文本，来触发过度思考
#slowdown-attack
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文研究了大型视觉语言模型（LVLM）在机器人系统中可能存在的“过度思考”行为，即模型生成过长的推理链，导致推理时间显著增加。这种过度思考行为可以被攻击者利用，通过在机器人感知的视觉场景中嵌入精心构造的、人类可读的场景文本，来触发过度思考