#deep-learning-security

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Qiucheng Yu, Tao Ni, Yihe Zhou, Jiayimei Wang, Qingchuan Zhao

本文提出了一种针对视觉-红外融合人脸检测模型的物理对抗补丁攻击方法 VIPatch(视觉-红外补丁)。随着深度学习在多模态融合(如可见光与红外图像)人脸检测中的应用日益广泛,模型面临的对抗性威胁也相应增加。现有的对抗补丁攻击大多仅在数字域针对单一模态(可见光或红外)设计,难以有效攻击融合模型,并且补丁图案往往不自然、容易被察觉。VIPatch 的核心创新在于生成同时作用于可见光和红外图像的逼真补丁,具体通过设计渐变颜色掩码和创可贴形状的贴纸,并联合优化这两个元素,使得生成的数字补丁既具备对抗性又外观自然,进而指导物理补丁的制作。实验在数字域和物理域(如打印贴纸并佩戴)均进行了评估,结果显示 VIPatch 在两个域中对融合模型均达到超过 90% 的攻击成功率,且补丁对人类观察者而言不易引起注意。该工作揭示了多模态人脸检测系统在物理世界中的新漏洞,对于安全从业者理解并防御此类攻击具有重要参考价值。

💡 推荐理由: 视觉-红外融合人脸检测被广泛用于安防、身份认证等关键场景,本文首次提出针对该融合模型的物理域隐身对抗补丁攻击,威胁真实部署系统,需引起防御方高度关注。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yinbo Yu, Xueyu Yin, Jing Fang, Chunwei Tian, Qi Zhu, Jiajia Liu, Daoqiang Zhang

深度神经网络(DNN)仍然容易受到后门攻击,现有后门检测方法通常需要干净数据、代理数据、梯度或迭代触发器重建,导致计算成本高且在实际模型审计场景中鲁棒性有限。本文提出HTell,一种快速、轻量级且无需数据的后门检测方法,基于头部随机探针技术。HTell的核心洞察是:后门模型在随机潜在探针下,预测头部的目标类别上往往表现出异常高的响应集中度。该方法首先生成架构感知的随机潜在探针,直接馈入模型头部,然后通过分析类别级响应统计量来检测后门,无需访问真实/代理数据、模型梯度或参数优化。在包含超过6000个后门模型和700多个干净模型的大规模基准上进行评估,覆盖4个数据集、14种架构和21种后门攻击类型。HTell实现了99.03%的真阳性率和2.11%的假阳性率,每模型检测延迟仅为12.69毫秒,相比基于梯度的代表性检测器时间成本降低超过30,000倍。结果表明,头部随机探针为大规模无数据后门模型审计提供了准确、鲁棒且高效的解决方案。

💡 推荐理由: HTell实现了无需数据、快速且高精度的后门检测,大幅降低了模型审计的计算门槛,适合安全团队在本地或云端大规模部署前对第三方模型进行黑盒筛查。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)