推荐 10.7
Conf: 50%
本论文提出了RIPA,首个针对基于ROS 2的LLM控制机器人系统的多通道感知向量提示注入攻击的系统性实证研究。研究在5个不同参数量(约4B至284B)的LLM上进行了每个攻击变体100次独立实验,涵盖DeepSeek-V4-Flash、Llama-3-8B-Instruct-Lite、Llama-3.3-70B-Instruct-Turbo、Qwen 2.5-7B-Instruct-Turbo和Gemma-3n-E4B。发现模型存在特定的脆弱性轮廓,且不随参数量单调变化:例如,Llama-3.3-70B-Instruct-Turbo在所有攻击变体上达到100%攻击成功率(ASR),而Llama-3-8B-Instruct-Lite和Qwen 2.5-7B-Instruct-Turbo在直接覆盖注入上为0% ASR,最小的Gemma-3n-E4B与70B模型脆弱性相似,表明鲁棒性与模型架构相关而非规模。研究还提出了一种混合语义防火墙,对已知注入模式实现0% ASR且无假阳性,但对混淆攻击的绕过率为10.2%。进一步引入了三种感知注入通道:视觉(通过OCR)、音频(通过Whisper STT)和LiDAR传感器上下文投毒(Channel 3),其中Channel 3通过在LLM系统提示层注入虚假障碍数据,在DeepSeek-V4-Flash上实现100% ASR。此外,贡献了包含19种混淆载荷的防火墙绕过分类。所有代码、数据和结果公开。
💡 推荐理由: 该研究揭示了LLM控制机器人系统在多模态感知输入下的脆弱性,为安全从业者提供了攻击面理解和防御设计的重要参考。
🎯 建议动作: 研究跟进
排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.7)