#perception-security

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Alkim Domeke, Michael Kuhr, Roman Gilliatt, Mohammad Hamad, Sebastian Steinhorst, Bing Li, Long Cheng, Mert D. Pesé

该论文研究的是现代相机中普遍采用的「时域高动态范围(temporal HDR)融合」流水线所隐含的安全假设问题。时域 HDR 通过连续采集多张不同积分时间(曝光时间)的图像并将其融合为单张图像,从而提升在强弱光混合场景中的可见性。这一流程在算法层面默认了一个前提:在一次采集序列期间,场景光照保持足够稳定。作者提出 FLASH(Fusion-Level Attack by Saturating HDR),一种外部脉冲光注入攻击,专门针对该假设,在曝光序列的不同帧之间制造「跨曝光不一致性」,使这一不一致在下游感知(目标检测、跟踪、路径规划等)之前就已被注入,从而影响最终输出。与依赖传感器物理损坏或硬件故障的手段不同,FLASH 利用的是融合算法的算法层假设,且不需要物理接触相机、不需要获取原始各曝光分档(RAW exposure brackets)、不需要知道具体的融合算法实现,也不需要与相机曝光时序做精确相位锁定,因此具有较好的平台通用性。作者在八类物理相机平台上进行了验证,覆盖嵌入式、安防监控、摄影、智能手机与车载等场景,并配合了光学对照实验。结果显示影响与具体流水线实现相关,可表现为画面异常变暗、过曝以及可见性丢失,其中包括 iPhone 16 Pro 上高达 50.0% 的极端变暗比例,以及 Wyze Battery Cam Pro 上 33.7% 的极端变暗比例。在 Wyze 相机上,FLASH 在 10/10 次试验中触发了系统级低可见性响应,而连续光和随机频率闪烁的对照组为 0/10。在一项受控的静止状态 OpenPilot 案例研究中,23.0% 的帧在交通锥目标区域内出现严重变暗,目标—背景对比噪声比(CNR)最多下降 90.8%,同时 OpenPilot 界面未能显示对照试验中可观察到的系统级路径状态。此外,在夜间专用 HDR 重建压力测试中,一个概念验证性质的「曝光剔除(exposure-rejection)」防御可将输出亮度偏差中位数降低 79.16%。论文总体结论是:时域 HDR 融合本身需要对曝光证据进行具备安全意识的校验,而不能默认多帧光照一致性成立。

💡 推荐理由: 它揭示了一类无需接触硬件、不依赖传感器损坏的物理层感知攻击面:直接滥用 HDR 多帧融合的光照稳定性假设。对智能摄像头、安防监控与自动驾驶感知栈的鲁棒性评估与安全设计具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Sri Hrushikesh Varma Bhupathiraju, Tetsu Ishizue, Nicholas U. Costagliola, Ozora Sako, Kentaro Yoshioka, Takeshi Sugawara, Sara Rampazzi

该论文研究立体视觉(双目)相机在深度估计中的内在脆弱性,属于针对自动驾驶、无人机、机器人等自主系统感知层的安全研究。作者指出,立体相机的深度输出依赖像素采样与标定两个基础环节,这些环节本身存在缺陷:攻击者只需在场景中引入简单的重复图案,就能对真实障碍物的深度估计值进行细粒度操控,而无需借助复杂对抗机器学习技术。论文进一步发现,基于深度学习的深度估计模型也存在同类问题,说明该缺陷并非传统匹配算法特有。为评估影响面,作者在两个主流传统立体匹配算法(BM、SGBM)、三个深度学习模型(PSMNet、MoCha-Stereo、UniMatch)、一个立体-激光雷达融合模型(SGM-DDC)以及两款商用立体相机(ZED2、Intel RealSense D435)上进行了系统测试。结果显示影响显著:在 ZED2 上,障碍物的估计深度可被推移到远处最多约 20 米或拉近最多约 12 米,足以把远处的物体伪装成近处威胁,或把真实障碍物"抹掉"。在真实道路场景测试中,一次约 0.5 秒的干扰即可触发某主流自动驾驶框架的紧急制动;作者还借助 CARLA 仿真验证了在最高 40 km/h 车速下的可行性。论文同时验证了现有最先进的防御手段对此类攻击无效,并提出一种新策略:利用匹配相似度分数动态检测并抑制深度异常,从而在输出层缓解偏差。整体贡献在于揭示立体匹配与深度学习深度估计中被长期忽视的共性缺陷,指出现有自主系统部署评估中的关键盲区,并给出可落地的缓解思路。

💡 推荐理由: 深度感知是自动驾驶与机器人决策链的输入层,该研究证明无需对抗模型、仅靠廉价图案即可操纵深度输出并触发紧急制动等危险行为,且现有防御失效,直接关系到感知层安全评估与冗余设计。

🎯 建议动作: 研究跟进:纳入感知层安全评估清单,复现并评估自研立体视觉与多传感器融合栈的受影响程度,优先验证相似度分数抑制策略的可用性。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)