#backdoor attack

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Jaesun Baek, Chanwook Lee, Eun-Kyu Lee

该论文提出了一种针对基于事件的视觉(event-based vision)和脉冲神经网络(SNN)目标检测模型的可用性后门攻击方法,称为Event Burst Trigger(EBT)。研究背景:基于事件的视觉传感器和SNN因其低延迟和低能耗特性在边缘智能中广泛应用,但其安全性问题,尤其是可用性后门攻击,尚未得到充分研究。核心问题:现有的SNN后门攻击多集中于改变模型预测结果,而忽略了通过触发大量虚假目标候选来耗尽计算资源的可用性威胁。方法:EBT在训练数据中注入精心构造的基于事件的触发器,这些触发器在推理时会产生时间上集中的事件流,类似于爆发式激活,从而增加大量虚假目标候选(phantom objects),进而显著增加后处理阶段(特别是非极大值抑制NMS)的计算开销。该攻击采用仅投毒(poison-only)威胁模型,无需修改模型架构、损失函数或推理流程。实验评估:在SpikeYOLO(最先进的SNN目标检测器)上进行实验,结果显示,在检测精度几乎不受影响(mAP@0.5下降小于0.099)的情况下,NMS阶段的延迟最高增加了38%,表明NMS可能成为基于事件的SNN目标检测中的一个主要可用性瓶颈。在边缘平台上的实验进一步表明,该攻击提高了基线资源利用率,减少了调度余量,而不会引起资源使用的显著峰值。此外,基于STRIP的后门检测方法无法可靠地区分该攻击与良性输入。这些结果揭示了基于事件的SNN目标检测系统中此前未被充分探索的可用性后门威胁。

💡 推荐理由: 首次系统性研究针对事件驱动SNN目标检测模型的可用性后门攻击,揭示了NMS阶段成为计算瓶颈的新威胁,对边缘AI安全性设计有重要警示意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Ziqing Yang, Rui Wen, Xinlei He, Yun Shen, Michael Backes, Yang Zhang

提示学习(Prompt Learning)作为一种新兴的机器学习范式,因其简单性和有效性而受到广泛关注。然而,其安全漏洞尚未得到充分探索。本文提出 BadBone,一种针对视觉提示学习中骨干模型(Backbone Model)的隐蔽且自适应的后门攻击方法。与以往攻击提示学习过程本身不同,BadBone 采用双层优化(Bi-level Optimization)技术,直接对预训练的骨干模型植入后门,使得任何采用该骨干进行提示学习的下游任务在微调后都会继承后门行为。攻击者可以在预训练阶段或通过微调接口注入后门,而无需控制提示学习过程。研究者在三个不同骨干模型(如 ViT、ResNet 等)和三个跨领域数据集上进行了大量实验,结果表明无论是目标攻击还是非目标攻击,后门模型都能在保持预训练和下游任务正常性能(Utility)的同时,实现高攻击成功率。更重要的是,作者评估了六种最先进的模型级防御机制(包括 Neural Cleanse、ABS、MNTD、NAD、CLP 和 D-BR),发现这些防御方法对 BadBone 几乎无效,无法有效检测或移除后门。这揭示了现有防御在应对针对骨干模型的后门攻击时的局限性。本文的工作首次系统性地探索了提示学习范式下针对骨干模型的后门攻击,其发现对视觉提示学习的安全性提出了新的挑战,适合关注 AI 安全、后门攻击与防御的研究人员阅读。

💡 推荐理由: 提示学习被广泛用于视觉任务,但存在被后门攻击的风险。BadBone 展示了攻击者可通过污染骨干模型,让下游采用提示学习的模型继承后门,且现有防御几乎无法检测。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)