#clean-label

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Roberto Riaño, Gorka Abad, Stjepan Picek, Aitor Urbieta

本文首次在脉冲神经网络(SNN)和神经形态事件数据上提出并评估了干净标签后门攻击。以往针对 SNN 的后门攻击大多假设脏标签设置,即攻击者将带有触发器的训练样本重新标记为目标类别。本文则研究干净标签时序毒化攻击:仅对目标类别的训练数据流施加固定的时间戳变换,同时保持原始标签不变。该变换在逐像素、逐极性上精确保留事件计数,因此在时间聚合后,正常样本与触发样本在外观上完全一致,但输入到 SNN 中的事件序列已被改变。实验覆盖三个神经形态数据集和两类受害模型(卷积网络与 transformer 架构),在最强配置下攻击成功率(ASR)可达 1.00。作者通过毒化预算和触发器形状消融实验分析了攻击特性,并评估了适用于脉冲模型的既有后门防御:在检测前将时间轴折叠的防御方法在原理上必然失效;而基于特征空间的防御仅在部分设置下能检测出毒化。最后,论文提出了一种模型无关的检测器,基于每个时间步的事件质量分布,能够有效检测所评估的时间变换,从而揭示了基于速率折叠防御的局限性以及该攻击的隐蔽性边界。该工作填补了干净标签后门在 SNN 领域的研究空白,对神经形态计算的安全性具有重要参考意义。适合研究 SNN 安全、后门攻击与防御以及神经形态系统的研究人员阅读。

💡 推荐理由: SNN 和神经形态硬件正逐渐应用于边缘设备与实时传感器处理,若安全防护沿用传统时间聚合思路,将无法防御此类干净标签时序后门。理解该攻击机理有助于提前设计保留时间信息的检测与防御机制。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Philemon Hailemariam, Birhanu Eshete

该论文针对机器学习模型面临的清洁标签后门攻击防御难题,提出了一种名为 PoisonSpot 的新型检测系统。清洁标签后门攻击通过污染训练数据嵌入隐藏行为,且无需修改标签,使得现有防御手段难以有效检测。PoisonSpot 的核心创新在于借鉴动态污点追踪思想,实现了细粒度的训练来源追踪:它能够监控单个训练样本在整个训练过程中对模型参数更新的影响,并基于影响谱线为每个可疑样本分配毒性分数,从而精确识别并剔除携带后门触发器的样本。在多个基准数据集和攻击场景(包括自适应攻击策略)下的实验评估表明,PoisonSpot 相比现有最先进的清洁标签后门防御方法具有显著优势:始终实现高真阳性率、低假阳性率,并有效减轻后门攻击。此外,该系统在重训练和微调等多种训练设置下均能高效运行,展现出良好的鲁棒性和可扩展性。论文详细描述了追踪机制、毒性评分算法以及防御流程,为机器学习安全领域提供了一种精准、可操作的防御方案。

💡 推荐理由: 清洁标签后门攻击因隐蔽性强而难以检测,PoisonSpot 通过细粒度训练来源追踪实现了高精度识别,对依赖第三方数据的模型安全具有重要防护价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)