#autonomous-vehicle

共收录 6 条相关安全情报。

← 返回所有主题
👥 作者: Ruoyu Song 0001, Muslum Ozgur Ozmen, Hyungsub Kim, Raymond Muller, Z. Berkay Celik, Antonio Bianchi

该论文针对自动驾驶车辆(AV)面临的新型安全威胁展开研究,聚焦于对抗性驾驶动作(Adversarial Driving Maneuvers)。传统上,对抗性攻击多针对感知系统(如摄像头、LiDAR)的输入扰动,而本文提出一种从车辆控制与规划层面发起攻击的思路:通过构造看似正常但违反交通规则或安全协议的驾驶动作,诱导AV采取危险行为,进而导致碰撞或交通混乱。研究背景在于,现有自动驾驶安全测试主要关注传感器级攻击或算法漏洞,但对驾驶策略层面的对抗性操纵缺乏系统性探讨。核心问题是如何在已知AV规划算法状态的前提下,自动发现能够造成事故的对抗性驾驶场景。论文提出一种基于搜索或优化的方法,模拟对手车辆的运动学约束,在避免被AV安全机制直接识别的前提下,逐步生成连续的一组操纵动作,使目标AV的决策模块做出错误判断。主要贡献包括:形式化定义了对抗性驾驶动作的生成问题;提出一种可扩展的发现框架;在多个开源AV栈和控制算法上进行评估,证明该方法能够在多种道路场景(如交叉路口、匝道汇入)中找到可导致碰撞或急停的对抗行为。此外,论文还讨论了防御思路,如增强规划器的鲁棒性、在决策层加入异常轨迹检测等。适合自动驾驶安全研究者、AV系统工程师和SOTIF(预期功能安全)评估人员阅读。由于仅获取到论文标题,未提供完整摘要,本总结基于标题及领域通用知识推断,具体实现细节未验证。

💡 推荐理由: 自动驾驶安全不仅依赖感知鲁棒性,还面临来自规划层面的新威胁。该研究揭示了车辆操控动作可被恶意利用,为安全评估与防御提供了重要方向,是自动驾驶与网络安全交叉领域的前沿工作。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mohammed Aldeen, Muhammad Sami Irfan, Sagar Dasgupta, Long Cheng, Mizanur Rahman, Mashrur Chowdhury

该论文针对自动驾驶汽车(AV)依赖全球导航卫星系统(GNSS)进行定位和导航,易受欺骗攻击(如轨迹重定向、急停等)的问题,提出了首个基于视觉-语言模型(VLM)的GNSS欺骗检测框架。方法创新地融合了前置摄像头视觉数据与车载传感器读数(速度、加速度、偏航率),并与GNSS导出的机动行为进行对比。作者设计了三阶段微调流程:首先对齐视觉线索,然后在共享语义空间中校准传感器数据,以检测在三种攻击场景下预测机动与GNSS导出机动之间的差异。为验证模型跨区域泛化能力,团队在阿拉巴马州塔斯卡卢萨县公共道路上采集了实车数据集(含时间同步的GNSS、IMU和相机日志),并生成了智能欺骗攻击样本,包括带道路网络匹配的轨迹镜像(错误转弯攻击)、位置冻结(过冲攻击)和漂移生成(停车攻击)。实验表明:零样本VLM基线F1分数仅为23%-32%,而微调后的模型F1分数达到94%-95%;错误转弯和停车攻击分类准确率100%,过冲攻击准确率88%-93%。此外,引入自适应推理策略将VLM调用次数降至14%(计算量减少约86%),每4秒窗口处理时间为65-73毫秒,证明了该方法作为实际道路上补充信号级完整性检查的防御层的可行性。

💡 推荐理由: 首次将VLM应用于自动驾驶GNSS欺骗检测,通过多模态融合实现高精度(>94% F1)且低计算开销(86%推理减少),为自动驾驶安全提供了新颖的感知级防御思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Shenchen Zhu, Yue Zhao 0018, Kai Chen 0012, Bo Wang, Hualong Ma, Cheng'an Wei

该论文提出一种名为AE-Morpher的方法,旨在提高对抗性物体对基于LiDAR的检测器的物理鲁棒性。在自动驾驶等安全关键应用中,LiDAR传感器常被用于环境感知,而对抗性攻击(如通过修改物体外观欺骗检测器)在数字域已被广泛研究,但在物理域中,由于视角、光照、遮挡等环境因素,对抗性攻击的有效性往往下降。AE-Morpher通过物体重建技术,将对抗性扰动融入物体的几何形状或材料属性中,使得对抗性物体在物理世界中具有更强的稳定性和可迁移性。具体来说,该方法利用可微渲染和3D重建技术,优化物体的表面纹理或形状,使其在不同视角和距离下均能有效欺骗LiDAR点云检测器。实验在多种LiDAR检测模型(如PointPillars、VoxelNet)和数据集上进行,结果表明,与现有物理对抗攻击方法相比,AE-Morpher生成的对抗性物体在物理模拟和真实世界中均表现出更高的攻击成功率和鲁棒性。该研究揭示了LiDAR检测器在物理世界中的潜在脆弱性,为设计更安全的自动驾驶系统提供了重要参考。

💡 推荐理由: LiDAR是自动驾驶的核心传感器,其安全性直接影响行车安全。该研究展示了一种可实际部署的物理对抗攻击方法,帮助安全社区理解LiDAR检测器的物理局限性,从而推动更鲁棒的防御策略。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zifan Zhang, Minghong Fang, Dianwei Chen, Zhuqing Liu, Prashant Khanduri, Xianfeng Yang, Anupam Das, Yuchen Liu

本文提出一种针对联邦强化学习(FRL)系统的安全防御框架SecAgg+,旨在保护安全关键的自动驾驶场景中的FRL模型免受投毒攻击。联邦强化学习允许多个智能体协同学习而不共享原始数据,从而增强隐私和可扩展性,但现存投毒攻击可通过注入恶意系统参数破坏全局控制模型,而这一漏洞在自动驾驶中尚未被充分研究。SecAgg+框架策略性地结合了数字孪生(digital twins)用于排练式学习(rehearsal-based learning),并利用历史聚合模型参数和选定的中心梯度,确保仅聚合良性数据,有效缓解恶意智能体的影响。文章提供了在投毒攻击下SecAgg+收敛性能的理论保证,并通过开发模拟真实高速公路环境的数字孪生进行实验,验证了该框架在对抗条件下对自动驾驶车辆控制的有效性。

💡 推荐理由: 首次针对联邦强化学习在自动驾驶场景中的投毒攻击提出理论保证的防御框架,结合数字孪生技术,对保障智能网联汽车安全具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Michael Kühr, Mevlüt Yildirim, Maximilian Luedecke, Mohammad Hamad, Sebastian Steinhorst

本文提出了一种针对自动驾驶汽车交通标志分类任务的物理对抗攻击方法。传统的物理对抗攻击通常通过在交通标志上粘贴贴纸或投射可见光扰动,虽然有效但容易被人类察觉。本文作者利用近红外光谱(NIR)和视觉暂留(Persistence of Vision, POV)原理,设计了一种动态、可远程触发的隐蔽攻击方案。攻击者通过近红外LED阵列在交通标志表面投射动态图案,这些图案在人类视觉中不可见,但能被自动驾驶汽车的摄像头捕获,从而误导分类模型。作者首先通过数字仿真确定最佳攻击位置,然后在真实场景中对两种交通标志、12种不同家族的机器学习模型(包括卷积神经网络等)进行测试,距离从近到远达20米,并考虑了不同光照条件。实验结果表明,该攻击在多数测试场景下具有很高的成功率。作为防御措施,作者提出了两种方案:一是物理层面的近红外截止滤镜,可以滤除近红外光;二是软件层面的检测机制,用于识别异常的光谱特征。此外,作者还设计了一个可见光版本的RGB原型来克服近红外显示的一些限制。这项研究揭示了交通标志分类系统中的新安全漏洞,为未来自动驾驶系统的安全设计提供了重要参考。适合自动驾驶安全研究员、对抗性机器学习研究者以及系统防御工程师阅读。

💡 推荐理由: 该攻击利用近红外光的不可见性实现物理世界的隐蔽对抗攻击,直接威胁自动驾驶汽车的感知安全,且现有防御可能无法有效应对。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: A K. M. Sazzadul Alam, Xiali Hei 0001, Yunpeng Zhang

该论文探讨了如何通过多传感器融合技术提升联网和自动驾驶车辆(CAVs)对交通信号的感知能力。传统方案依赖单一传感器(如摄像头)检测信号灯,易受光照、天气等环境因素影响。作者提出一种融合摄像头、LiDAR、雷达以及SPaT(信号相位与时序)数据的综合方法,利用每种传感器的优势:摄像头提供视觉信息、LiDAR提供精确距离、雷达增强恶劣天气下检测、SPaT提供信号灯状态预测。实验设计可能包括在仿真或真实场景中评估融合方案相对于单传感器的检测精度与鲁棒性。主要贡献在于提出了一种多源异构数据融合框架,提升了交通信号感知的准确率和实时性,从而增强CAVs在复杂交通环境中的决策可靠性。对于汽车安全工程师来说,这项工作有助于理解传感器融合在关键安全功能中的应用,并为后续的安全验证(如对抗性攻击下的鲁棒性)提供基础。

💡 推荐理由: 传感器融合是自动驾驶安全的核心,本文直接提升交通信号这一关键安全要素的感知可靠性,对CAVs部署有现实意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)