#black-box-detection

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Robi Paul, Michael Zuzak

本文针对TinyML模型在边缘设备部署中面临的对抗样本(AE)攻击威胁,提出一种名为AdvScan的黑盒运行时检测方法。TinyML模型广泛应用于安全关键型应用,但现有AE检测方案要么需要白盒模型访问(在许可部署中不可行),要么依赖输入预处理阶段,增加不可忽视的延迟和资源开销。AdvScan基于一个关键观察:对抗样本会导致异常的神经元激活,从而产生独特的功耗特征签名。该方法首先通过已知良性输入构建功耗签名的基线分布;在运行时,采用单样本t检验判断待测输入的功耗签名是否显著偏离基线,从而检测对抗样本。作者在三个MLPerf Tiny基准模型上使用FGSM、PGD和C&W三种对抗生成算法,并在STM32F303RC和STM32L562RE两款微控制器上进行评估。在总计318,400个测试输入中,AdvScan检测出99.984%的对抗样本,仅出现40个假阴性和零假阳性。实验表明,基于功耗分析的AE检测方法在保证准确性的同时,适用于黑盒场景下的TinyML部署,且不引入额外推理延迟。

💡 推荐理由: 为资源受限的边缘设备提供一种低开销、高精度的黑盒对抗样本检测方案,弥补了现有白盒方法无法用于许可部署的缺陷,对TinyML安全防御具有重要实践意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)