AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots
该论文关注 LLM 作为机器人高层规划器（移动机器人、机械臂、自动驾驶车辆）时出现的一类被忽视的安全问题。现有研究已表明，这类系统可被恶意文本、语音、视觉指令、检索到的文档以及被污染的传感器上下文所影响，而当前大多数防御只回答一个问题：候选
#robotics
共收录 12 条相关情报。
← 返回所有主题Seeing is Not Believing: Breaking the Physical-to-Digital Trust Boundary in Robotics
在多机器人协作系统中，任务交接通常依赖下游验证器对机器人上报的传感器遥测数据进行远程证明，以确保物理行为与所分配任务严格一致。然而，论文作者对该信任链提出了质疑：这些遥测数据本身是否可信？本文揭示了一个存在于 Robot Operating
Seeing Less Is Not Seeing Safely: Privacy Leakage from Task-Scoped Robot Perception Exports
本文研究家庭机器人在仅在本地位保留原始传感器数据的情况下，其导出的结构化感知表示仍可能造成隐私泄露的问题。作者指出，即使原始数据不出本地，机器人为了导航、规划、云服务、日志或学习而导出的结构化表示，仍可通过语义、几何、空间结构和任务目标等维
GhostTac: Manipulating Tactile Sensors without Physical Contact
本文提出了一种名为 GhostTac 的新型攻击方法，首次实现了无需物理接触即可通过电磁干扰（EMI）操控机器人触觉传感器的输出。触觉传感器是现代机器人感知物理环境并实现精细操作的关键组件，但其物理层安全性此前鲜有研究。作者发现，EMI 信
PGFUZZ: Policy-Guided Fuzzing for Robotic Vehicles.
该论文介绍了一种面向机器人的模糊测试框架 PGFUZZ（Policy-Guided Fuzzing）。研究背景在于，机器人车辆（如无人地面车辆、无人机等）依赖传感器和控制策略进行自主决策，而策略中存在的逻辑漏洞可能被攻击者利用。现有模糊测试
When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems
本文研究了大语言模型（LLM）被集成到自主机器人系统中进行任务规划与控制时面临的安全威胁，重点聚焦于提示注入攻击在多智能体机器人系统中的影响。随着LLM在机器人领域的广泛应用，攻击者可以通过注入恶意指令操纵机器人的决策，导致不安全行为甚至物
!Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
该论文研究了针对开源机器人视觉语言动作模型（VLA）的数据投毒攻击，特别是触发词（trigger-word）投毒。作者指出，当前开源机器人生态系统在社区贡献的数据集上存在信任假设，而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门，使机器人
Occluding the Solution Space: Planner-Agnostic Adversarial Attacks on Tolerance-Aware Manipulation
该论文针对机器人操作中的运动规划对抗攻击问题展开研究。现有攻击方法通常依赖精确位姿目标，并且需要持续查询规划器（planner-in-the-loop），这在实际中受限。为此，作者提出了一种与规划器无关（planner-agnostic）的
RIPA: Sensory-Vector Prompt Injection Attacks on LLM-Controlled ROS 2 Robots
本论文提出了RIPA，首个针对基于ROS 2的LLM控制机器人系统的多通道感知向量提示注入攻击的系统性实证研究。研究在5个不同参数量（约4B至284B）的LLM上进行了每个攻击变体100次独立实验，涵盖DeepSeek-V4-Flash、L
Same Weights, Different Robot: A Deployment Safety View of VLA Policies
本文从部署安全角度审视视觉-语言-动作（VLA）策略，指出当前将VLA策略视为仅由权重、提示和基准测试定义的对象这一假设存在缺陷。实际上，相同的归一化模型输出在经历动作反归一化和控制器约定后，会转化为不同的物理动作，导致安全审查仅能验证模型
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
本文提出 RoboJailBench，一个针对具身机器人中对抗性攻击与防御的标准化基准测试框架。研究背景：随着视觉语言模型（VLM）被集成到机器人、自动驾驶等物理平台，这类具身AI系统面临新型安全威胁。先前的攻击与防御研究依赖临时数据集、有
From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
该论文针对集成大语言模型（LLM）的自主机器人系统进行威胁建模。背景方面，虽然已有研究分别关注机器人网络安全、对抗性感知攻击和LLM安全性，但尚未有工作将这些威胁类别在一个统一架构中追踪其相互作用与传播。作者通过将基于边缘-云架构的LLM赋