#computer-vision

共收录 3 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Abu Taib Mohammed Shahjahan, Mohammad Mannan, Abdessamad Ben Hamza, Amr Youssef

该论文聚焦于深度伪造图像检测器在对抗攻击下的鲁棒性问题。尽管近年来提升检测器对未见生成模型泛化能力的研究取得进展,但检测器仍易受对抗样本攻击。作者复现了Abdullah等人(IEEE SP 2024)对八种检测器的评估,并额外测试了七种最先进检测器,均发现攻击下性能显著下降。为此,论文提出一个不依赖对抗训练的统一框架,融合三种互补设计:1)基于离散余弦变换(DCT)的四阶矩池化,在频域建立高阶统计建模;2)从噪声残差中提取内容无关特征;3)通过分块语义破坏实现跨场景泛化。核心洞察是对抗攻击主要利用低阶统计和视觉语义,而高阶残差-频率特征(尤其是峰度)几乎不受约束。大量实验表明,该方法在六种不同架构的检测器上持续提升鲁棒性,在现有对抗基准测试中将召回率退化降低最多88.9%,并将最佳检测器(Yang等人,IEEE CVPR 2025)的攻击下准确率从81.9%提升至97.15%。该工作为提升深度伪造检测对抗鲁棒性提供了通用的、架构无关的解决思路。

💡 推荐理由: 深度伪造检测器在对抗攻击下脆弱性是实际部署的关键隐患;该方法无需对抗训练即可显著提升鲁棒性,对蓝队构建可靠检测体系具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Xiaoyu Ji 0001, Yushi Cheng, Yuepeng Zhang, Kai Wang 0073, Chen Yan 0001, Wenyuan Xu 0001, Kevin Fu

该论文提出了一种名为“Poltergeist”的新型声学对抗机器学习攻击,针对配备图像稳定器的摄像头和计算机视觉系统。研究背景是自动驾驶车辆依赖基于计算机视觉的目标检测系统来感知环境并做出驾驶决策,而图像稳定器(通常包含惯性传感器)被用于减少摄像头抖动导致的图像模糊。然而,论文发现了一个系统级漏洞:攻击者通过发射精心设计的声学信号,可以操控惯性传感器的输出,触发不必要的运动补偿,即使摄像头本身稳定,也会产生模糊图像。这些模糊图像进而导致目标检测算法(如YOLO V3/V4/V5、Fast R-CNN以及百度Apollo)产生误分类,影响安全关键决策。论文建模了这种声学操控的可行性,并设计了攻击框架,能够实现三类攻击:隐藏对象(使检测器忽略真实物体)、创建对象(让检测器误认为存在虚假物体)以及改变对象(将物体误分类为其他类别)。实验评估证明了攻击的有效性。论文进一步提出了“AMpLe攻击”的概念,即一类新的系统级安全漏洞,源于对抗性机器学习与物理注入信息承载信号到硬件的结合。该研究揭示了硬件与软件交叉领域的新攻击面,对自动驾驶、安防监控等依赖视觉感知的系统的安全性提出了警示。

💡 推荐理由: 该研究揭示了物理世界声学攻击可绕过图像稳定器并干扰视觉AI系统,对自动驾驶等安全关键应用构成现实威胁,需业界重视硬件与算法协同防御。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mamadou Keita, Wassim Hamidouche, Hessen Bougueffa Eutamene, Abdelmalik Taleb-Ahmed, Xianxun Zhu, Abdenour Hadid

近年来,计算机视觉领域取得了显著进展,尤其是卷积神经网络(CNN)、生成对抗网络(GAN)、扩散模型、视觉变换器(ViT)以及视觉-语言模型(VLM)等架构的发展,使得生成的视觉内容越来越逼真。然而,这些进步也带来了潜在的滥用风险,例如虚假信息、身份盗窃以及隐私和安全威胁。与此同时,基于Mamba的架构作为一种新兴工具,已在图像分类、分割、医学成像、目标检测和图像恢复等多种任务中展现出潜力,但在AI生成图像检测方面的应用尚未被充分探索。本研究对Vision Mamba模型在AI生成图像检测中的性能进行了系统评估和比较分析。我们在多个数据集和合成图像源上,将多种Vision Mamba变体与代表性的CNN、ViT和VLM检测器进行基准测试,重点关注准确性、效率以及跨不同图像类型和生成模型的泛化能力。通过全面分析,我们旨在阐明Vision Mamba相对于现有方法在适用性、准确性和效率方面的优势与局限性。总体而言,我们的研究结果揭示了Vision Mamba作为区分真实与AI生成视觉内容的系统组成部分的潜力与当前局限。这项研究对于在区分真实与AI生成内容成为重大挑战的时代提升检测能力至关重要。

💡 推荐理由: AI生成图像检测是当前网络安全和内容真实性验证的关键技术,Vision Mamba作为一种新架构,其性能评估对蓝队选择检测工具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)