#latency-attack

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zonghua Gu, Zeyu Gao, Amin Saremi, Samarjit Chakraborty

该综述论文系统梳理了深度学习领域中长期被忽视的「可用性」威胁——延迟攻击(latency attack,亦称能耗-延迟攻击)。作者指出,对抗机器学习研究以往几乎集中在完整性(误分类、后门等),而可用性攻击通过在推理阶段额外增加计算量、能耗或响应时间,造成截止时间错过、吞吐量崩塌或资源耗尽,且在很多情况下模型的最终预测结果仍然保持正常,因而极难被常规准确率监控发现。受影响场景包括车载控制器、交互式在线服务以及电池供电的传感器节点。 论文把分散在三条技术脉络上的文献统一起来:其一是感知流水线,包括针对自动驾驶检测与跟踪的物理世界攻击;其二是输入自适应神经推理,如 sponge examples 与动态网络/早退网络;其三是自回归与智能体系统,包括针对大语言模型、视觉语言模型、混合专家模型以及可调用工具的智能体的输出长度型、冗长图像型与推理拒绝服务型攻击。 在组织方式上,作者刻意不按攻击的数学形式分类,而是按被利用的计算瓶颈分类,从而把「是什么让计算变贵」与「攻击者如何触发它」这两件事区分开来;同时将投递通道(输入、提示词或检索内容、通信消息、数据投毒、权重篡改)作为正交属性单独刻画。作者观察到大量攻击共享同一底层机制——中间工作量放大(intermediate-work amplification),据此提出「工作预算(work-budget)」这一防御抽象,并明确区分两类控制:限制进入昂贵阶段的计算量,与限制从昂贵阶段流出的结果量。 论文进一步分析模型层面的成本上升何时会演化为系统层面的可用性失败,指出这取决于关键路径占比、系统松弛度、既有资源上限、负载累积效应、资源共享方式以及回退策略,而不能仅由放大倍数推断。主要贡献包括:威胁模型分类法、汇总后的定量对比、按控制机制组织的防御综述,以及标准化评测、物理可实现性与全系统可用性等开放问题。配套资源站点已公开。

💡 推荐理由: 蓝队长期只监测准确率与完整性,延迟/能耗型攻击可在预测正确的前提下击穿 SLO。该综述提供了统一的威胁建模视角与工作预算防御抽象,可直接用于 LLM 服务、Agent 工具链与车载/边缘推理的可用性防护设计。

🎯 建议动作: 研究跟进:将工作预算抽象与威胁模型分类法纳入内部 LLM/Agent 与边缘推理的可用性威胁评估清单,并参考配套资源站点整理评测与防御基线。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Zonghua Gu, Julian Singh-Smith, Junlin Liao, Di Liu, Amin Saremi

本文研究面向目标检测器的延迟攻击:攻击者目标不是篡改预测结果,而是让系统无法按时响应,针对自动驾驶等实时应用场景。传统 "sponge" 类延迟攻击依赖检测器端 NMS(非极大值抑制)的计算量随候选框数量增长这一瓶颈。而现代检测器通过一对一标签分配或集合预测去除了 NMS(如 YOLOv10、YOLO26、RT-DETR),从架构上消除了该瓶颈。作者指出:"无 NMS" 并不等于 "延迟鲁棒"——架构变革并未消除攻击面,而是把攻击面下移到下游的多目标跟踪阶段,因为跟踪器的数据关联代价依然与输入内容相关。为此提出 TrackFlood:一种统一的白盒过载攻击,面向无 NMS 的 "先检测后跟踪" 流水线,同时覆盖一对一检测器与基于 query 的检测器。其思路是恢复可微的置信度张量,并优化扰动,使跟踪器被大量空间分散的幻影检测淹没,同时保持检测器自身推理基本不变,从而把延迟压力转嫁到关联环节。实验全部在 NVIDIA Jetson AGX Orin(TensorRT FP16)上完成:检测器延迟基本恒定,而跟踪器延迟显著升高。在标准不可感知扰动预算下,通用扰动已能造成明显可测的跟踪器过载,但端到端减速有限,关联主导型跟踪器尚未出现截止期错过;在更高预算的压力测试中则出现严重端到端减速和持续的截止期错过。作者还评估了一种轻量、与架构无关的有界准入层,通过限制跟踪器工作负载基本恢复端到端延迟,但代价是拒绝掉相当比例的干净检测结果。核心结论是:评估无 NMS 感知系统必须把下游跟踪和端到端时序纳入考量,而不能只看检测器推理延迟。

💡 推荐理由: 它把实时感知系统的延迟攻击面从检测器迁移到跟踪器,提示自动驾驶/机器人等安全评估不能只测检测器推理延迟,而应覆盖下游关联与端到端截止期;边缘算力受限场景风险更突出。

🎯 建议动作: 研究跟进:纳入内部感知系统时序安全评估清单,并在边缘平台上复现端到端评测方法

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)