#accuracy-collapse

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Jhonatan Tavori, Gur-Eyal Sela, Ion Stoica, Gil Zussman

该论文揭示了分布式推理管道中一种新型攻击面——工作负载攻击。在现代AI推理系统中,通常采用双路径架构:快速路径(Fast Path)在本地或轻量模型上快速返回预测以满足延迟截止时间,慢速路径(Slow Path)则在远程更强硬件上运行高计算量方法以获得更高精度,并通过协调层(包含路由器与融合器)决定是否合并慢速路径返回的预测。研究者指出,这种协调层引入了一个新攻击面:攻击者可以通过构造形状化的工作负载(如Yo-Yo式突发请求)制造共享资源竞争,导致正常用户的慢速路径预测因超过延迟截止时间而被融合器丢弃,而快速路径仍能按时输出结果,从而损失慢速路径带来的精度提升,这种现象被称为“精度崩溃”(Accuracy Collapse)。实验以自动驾驶中的两层级边缘-云多目标跟踪(MOT)管道为例,模拟攻击显示:约4000个突发形状的请求即可将正常用户的p99延迟从92ms增加至2秒,几乎消除慢速路径云推理的收益,导致目标跟踪质量平均下降7.0 HOTA点(满分约80)。进一步发现精度退化幅度(2.0-18.7 HOTA点)因攻击所针对的视频区间而异,某些稀有类别(如停止标志)在攻击前几乎损失近一半的预测精度。这一结果表明,工作负载攻击无需访问模型权重或受害者数据,仅通过网络流量即可显著降低推理质量,对边缘-云协同、实时决策等场景构成严重威胁。论文还讨论了针对路由、融合、调度及资源隔离的潜在防御方向。

💡 推荐理由: 首次指出分布式推理管道中的协调层存在工作负载攻击面,可导致精度崩溃而无需模型或数据访问,对自动驾驶、实时监控等延迟敏感AI应用构成实际威胁。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)