Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric
该论文针对LLM辅助自主机器人蜂群在执行协作情报、监视与侦察（ISR）任务时面临的组合保证失败问题，提出了一种三层（平台/小队/任务）组合运行时验证框架。首先，论文指出现有的单平台防护机制无法检测跨平台违规行为，例如多个平台各自执行合规动作
#cs.RO
共收录 46 条相关情报。
← 返回所有主题RT-SHCUA: Real-Time Self-Hosted Computer-Use Agent for UAV Control
本文提出了一种面向无人机（UAV）控制的实时自托管计算机使用代理（RT-SHCUA）。现有的自托管计算机使用代理（SHCUA）设计用于交互式主机端工具使用，允许延迟的代理迭代，但直接应用于无人机控制存在结构不匹配：无人机控制涉及连续变化的物
Reasoning as a Double-Edged Sword: Architecture and Cross-Stage Robustness in Vision-Language-Action Models
本研究探讨了在视觉-语言-动作（VLA）模型中添加推理步骤对模型鲁棒性的影响。直觉上，先推理后行动的策略应能更好地吸收输入扰动，但本文通过实验验证了这一假设。作者选取了三种代表不同推理水平的模型：无推理、文本链式推理（CoT）以及潜在迭代循
Idiobionics: The Unification of Privacy and Intelligent Robotic Prostheses
本文提出了一种名为“idiobionics”的新研究领域，旨在统一隐私保护与智能机器人假肢的发展。随着假肢技术（如仿生肢体）与先进传感器和人工智能控制方法的深度融合，这些设备已演变为半自主可穿戴机器人系统，能够与用户协同适应。然而，这种技术
Governed Caste Reassignment in Heterogeneous Swarms: An Asymmetric-Trust Protocol with Audited Operator Countersignature
该论文针对异构机器人集群中的“种姓重新分配”（caste reassignment）问题，提出了一种非对称信任协议。在机器人集群中，机器人会因电池、载荷或优先级变化而频繁调整其角色（即种姓），但现有方法仅将其视为内部调度算法，缺乏外部权威机
!Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
该论文研究了针对开源机器人视觉语言动作模型（VLA）的数据投毒攻击，特别是触发词（trigger-word）投毒。作者指出，当前开源机器人生态系统在社区贡献的数据集上存在信任假设，而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门，使机器人
Occluding the Solution Space: Planner-Agnostic Adversarial Attacks on Tolerance-Aware Manipulation
该论文针对机器人操作中的运动规划对抗攻击问题展开研究。现有攻击方法通常依赖精确位姿目标，并且需要持续查询规划器（planner-in-the-loop），这在实际中受限。为此，作者提出了一种与规划器无关（planner-agnostic）的
Overthink-Triggered Slowdown Attacks on LVLM-Based Robotic Systems
该论文研究了大型视觉语言模型（LVLM）在机器人系统中可能存在的“过度思考”行为，即模型生成过长的推理链，导致推理时间显著增加。这种过度思考行为可以被攻击者利用，通过在机器人感知的视觉场景中嵌入精心构造的、人类可读的场景文本，来触发过度思考
Off the Rails: Hijacking the Scoring Head in Generative End-to-End Driving Planners with Safety-Violating Adversarial Perturbations
本文提出了一种名为 Derail 的对抗攻击框架，针对当前生成式端到端自动驾驶规划器中的评分头（scoring head）进行攻击。生成式规划器（如基于扩散去噪或词汇检索的模型）在推理时，通常会生成一组候选轨迹（锚点、词汇条目或提议查询），
RIPA: Sensory-Vector Prompt Injection Attacks on LLM-Controlled ROS 2 Robots
本论文提出了RIPA，首个针对基于ROS 2的LLM控制机器人系统的多通道感知向量提示注入攻击的系统性实证研究。研究在5个不同参数量（约4B至284B）的LLM上进行了每个攻击变体100次独立实验，涵盖DeepSeek-V4-Flash、L
A Watermark for Vision-Language-Action and World Action Models
该论文提出了一种针对视觉-语言-动作（VLA）模型和世界动作模型（WAM）的知识产权保护方法。这类模型正成为通用机器人控制的核心，将原始摄像头输入直接转化为电机指令，通常以黑盒服务形式部署（参数私有化）。由于训练此类模型需要专有数据和大量算
Stealthy World Model Manipulation via Data Poisoning
本文针对基于模型的学习代理（model-based learning agents）中世界模型（world model）的微调阶段面临的数据投毒攻击问题，提出了SWAAP（Stealthy World Model Manipulation
AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework
本文提出了一个针对AI沙箱的威胁模型、分类法和测量框架。随着AI系统越来越多地在受限环境中进行评估（结合隔离、仿真、检测、监督和证据捕获），尤其是物理AI、AIoT和网络物理系统，测试环境的可信度和安全性变得至关重要。作者首先形式化了沙箱边
A Formal Resilience Framework for Cyber-Physical Embodied Systems under Device-Level Cyberattacks
该论文针对网络物理系统（CPS）面临设备级网络攻击时的弹性问题展开研究。传统容错机制通过分析传感器和执行器输出检测渐进漂移或突发故障，并启动相应容忍机制，这在通用故障模型下合理，但无法捕捉网络攻击可能采用的细微策略。对于具身CPS（Embo
VLALeaks: Membership Inference Attacks against Vision-Language-Action Models
本文首次系统性地研究了视觉-语言-动作（VLA）模型在会员推断攻击（MIA）下的隐私脆弱性。VLA模型通过融合视觉、语言和动作信号实现端到端机器人控制，但训练数据的高昂采集成本使得数据记忆引发的隐私泄露和知识产权侵权问题尤为突出。会员推断攻
Safe-RULE: Safe Reinforcement UnLEarning
离线安全强化学习（Offline Safe RL）能够在没有在线交互的情况下学习策略，因此适用于机器人等安全关键系统。然而，其依赖静态数据集的特点使其容易遭受数据投毒攻击，攻击者注入恶意样本以破坏安全性并导致不安全策略行为。本文提出一种新的
Targeting World Models to Compromise Robot Learning Pipelines
该论文研究了世界模型（world models）在机器人学习管道中的安全性问题。世界模型作为一种高效的数据生成和仿真工具，正被越来越多地集成到机器人训练流程中，但本文证明了世界模型引入了一种隐蔽且有效的数据投毒攻击入口。与传统的直接向训练数
ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving
该论文首次系统性地研究了具有推理能力的视觉-语言-动作（VLA）模型在自动驾驶场景下对现实输入扰动的鲁棒性。以往研究多假设推理与轨迹生成紧密耦合且鲁棒，但实际场景中存在各种文本输入噪声（如传感器错误、环境描述歧义等）。作者以NVIDIA最新
TriSweep: A Four-Drone Swarm Framework for Electromagnetic Side-Channel Analysis
该论文提出了 TriSweep，一个基于四无人机蜂群架构的仿真框架，用于对嵌入式微控制器进行远程电磁侧信道分析（EM-SCA）。传统 EM-SCA 威胁模型假设探头静止且贴近目标，低估了空中移动平台的攻击能力。TriSweep 包含三架专用
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
本文提出 RoboJailBench，一个针对具身机器人中对抗性攻击与防御的标准化基准测试框架。研究背景：随着视觉语言模型（VLM）被集成到机器人、自动驾驶等物理平台，这类具身AI系统面临新型安全威胁。先前的攻击与防御研究依赖临时数据集、有