#sensor-spoofing

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Mohammadhossein Homaei, Yousef Emami, Sajad Homayoun, Rahim Taheri, Hao Zhou, Miguel Gutierrez Gaitan, Bo Wei

该论文研究的是以 LLM 为核心的智能体化无人机蜂群(LLM-Centric Agentic UAV Swarms)在「感知—推理接口」处面临的完整性风险,并首次对该接口的纵深防御做了完整实现与量化评估。研究背景是:LLM 越来越多地被用于无人机集群的任务调度,例如数据采集调度——模型读取结构化的传感器上报(sensor reports),再决定下一步访问哪一台传感器。此类系统中,攻击者无需修改模型权重、也无需入侵无人机本体,只要悄悄篡改这些结构化上报的内容,就能间接改变模型的决策,把蜂群重定向到攻击者期望的目标上。作者指出,针对这一接口的防御此前多停留在架构层面的设想,极少被真正实现或评测。为此,作者实现了五层纵深防御:第一层检查上报的来源/出处(provenance)是否可信;第二层检查其数值是否满足物理可行性约束;第三层检查其是否与蜂群几何关系(swarm geometry)和服务历史(service history)所预测的结果一致;第四层检查据此生成的调度方案是否导致某些传感器被「饿死」(长期得不到访问);第五层是兜底机制——当上述检查失败时,把控制权交给一个忽略可疑输入的确定性调度器。评测方法上,作者让每一层都面对一个「足以击败其前一层」的强对手;对三个输入侧防御层,作者用闭式解(closed form)推导出上报在被该层察觉之前可被扭曲的最大幅度,并且这些阈值完全由部署参数事先确定,不依赖任何攻击样本。在三十组配对仿真运行中,预测边界与实测边界吻合。论文还强调「攻击检测」与「攻击响应」应相互分离这一既有原则,并量化了在该接口上忽视这一区分的代价:当系统拒绝一份上报时,会以最近一次被接受的上报替代它,这虽然阻止了攻击者控制无人机调度,但相较无防御系统,两种检测器分别带来 79% 与 74% 的累计成本上升;而其中的安全检查层本身不检测任何攻击,却仍将攻击导致的成本降低 37.5%。论文适合研究 LLM 智能体安全、多智能体/机器人系统安全以及关键基础设施 CPS 防御的研究者与工程团队阅读。

💡 推荐理由: 它揭示了 LLM 智能体系统的一类关键攻击面:不碰模型权重、不碰硬件,仅污染喂给模型的感知数据即可劫持决策。对任何「LLM 读传感器/日志再决策」的系统(无人机、机器人、SOC 自动化响应、工控调度)都具有直接迁移价值。

🎯 建议动作: 研究跟进:将该文的五层防御框架与边界推导方法纳入内部 LLM 智能体/自动化调度系统的威胁建模与防御评估,重点复现其「检测—响应分离成本」的度量方法。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Yuan Xu 0033, Gelei Deng, Xingshuo Han, Guanlin Li, Han Qiu 0001, Tianwei Zhang 0004

本文提出 PhyScout,一个针对自动驾驶系统中传感器欺骗攻击的综合性防御框架。现有防御方法存在攻击类型覆盖有限、依赖 GPU 计算、检测延迟高以及边缘场景可解释性差等问题。PhyScout 的灵感来源于人类驾驶员通过环境时空一致性检查快速准确识别欺骗的能力。该框架首先定义不同传感器欺骗攻击在时空一致性上产生的广义冲突,然后将这些冲突统一形式化为最小二乘问题,并利用基于图像的特征点提取与匹配技术进行建模,最后为每种冲突设计风险识别方法。作者在模拟器、数据集和真实场景等多种环境中进行了评估。实验结果表明,PhyScout 能够在 100 毫秒内快速识别传感器攻击,且仅需 CPU 计算,性能开销低,并能提供冲突可视化。相比现有解决方案,PhyScout 为自动驾驶安全提供了一种新范式,也为未来研究鲁棒高效的传感器欺骗防御机制开辟了新途径。该论文适合自动驾驶安全研究人员、汽车安全工程师以及对传感器融合和对抗机器学习感兴趣的从业者阅读。由于本摘要仅基于论文摘要,未能验证实验细节和具体效果,因此置信度标记为 abstract_only。

💡 推荐理由: 自动驾驶系统对传感器欺骗攻击的防御至关重要,PhyScout 通过时空一致性检查实现了快速、低开销且可解释的检测,填补了现有方法的短板,为蓝队和汽车安全工程师提供了新的防御思路。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mingshuo Wang, Hanqing Guo, Huining Li, Yuliang Fu, Jing Xu, Chenhan Xu

该论文提出 ActReal,一个针对系统级移动智能体的物理动作攻击框架。研究背景是:系统级移动智能体(如手机自动化代理)已从固定脚本演变为自适应系统,能持续观察界面、推理并调整动作,从而可能被用于自动化攻击,在动态 UI 中导航并完成复杂任务。现有应用检测自动化主要依赖触摸轨迹、动作时序以及触摸与惯性测量单元(IMU)信号之间的物理耦合。然而,具有特权的系统级代理执行器可以同时控制触摸屏输入和应用程序可见的传感器数据传递,这使得它能联合生成时间对齐的触摸和六轴 IMU 信号,从而规避这些检测。ActReal 的核心方法是将语义化的智能体动作转换为任务有效的触摸和 IMU 事件,具体包括两个关键组件:真实轨迹适配(genuine-trajectory adaptation)和物理引导的 IMU 生成(physics-guided IMU generation)。前者使触摸轨迹更接近真实人类操作,后者利用物理规律生成与触摸动作同步的 IMU 读数,从而模拟真实物理耦合。实验结果表明,ActReal 在事件层面达到平均 77.5% 的攻击成功率;即使检测器同时联合观察触摸和 IMU 信号,攻击成功率仍保持在 71.1%。该研究的主要贡献是指出了系统级移动智能体环境下的安全盲区,展示了一种能同时规避触摸和传感器检测的物理动作攻击方法,并提醒移动安全社区需要更强大的多模态自动化检测机制。适合移动安全研究人员、智能体平台开发者以及从事传感器安全与对抗机器学习的研究者阅读。

💡 推荐理由: 该研究揭示系统级移动智能体可绕过现有触摸与IMU耦合检测,对移动自动化攻击检测构成真实威胁,提醒蓝队需重新评估智能体特权和传感器完整性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yingao Elaine Yao, Pritam Dash, Karthik Pattabiraman

该论文研究针对无人机群(drone swarms)的传感器欺骗攻击。随着无人机群在军事、物流、农业等领域的广泛应用,其安全性受到关注。无人机群依赖多种传感器(如GPS、IMU、视觉传感器等)进行协同导航与决策。作者提出了一种新型攻击方法,攻击者通过向无人机群的传感器注入虚假数据(如伪造的GPS信号或惯性测量值),导致无人机群产生错误的感知与决策,进而引发碰撞、偏离航线或任务失败。论文通过仿真实验验证了攻击的有效性,并分析了攻击对集群协同算法的影响。主要贡献包括:1)提出针对无人机群的传感器欺骗攻击模型;2)评估不同攻击策略对集群性能的影响;3)讨论潜在的防御方向。该研究为无人机群的安全防护提供了理论基础。

💡 推荐理由: 无人机群安全性关乎关键基础设施与公共安全,传感器欺骗攻击可导致集群失控,造成严重后果。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)