#image-classification

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Chong Xiang 0001, Saeed Mahloujifar, Prateek Mittal

该论文提出了一种名为 PatchCleanser 的认证鲁棒防御方法,旨在抵御针对图像分类模型的对抗性补丁攻击。对抗性补丁攻击通过在输入图像的受限区域内注入精心设计的像素(即补丁),导致模型误分类。这种攻击可在物理世界中通过打印并粘贴补丁到目标物体上实现,对计算机视觉系统构成实际威胁。PatchCleanser 的核心思想是在输入图像上执行两轮像素掩码操作,以消除对抗性补丁的影响。该方法完全基于图像空间的操作,因此与任何现有最先进的图像分类器兼容,且能保持高精度。更重要的是,作者证明了在其威胁模型下,PatchCleanser 能够确保对于某些图像,针对任意自适应白盒攻击者,始终预测正确的类别标签,从而实现认证鲁棒性。论文在 ImageNet、ImageNette、CIFAR-10、CIFAR-100、SVHN 和 Flowers-102 等多个数据集上进行了广泛评估。实验结果表明,PatchCleanser 在保持与最先进分类模型相近的清洁准确率的同时,显著提升了认证鲁棒准确率。例如,在 1000 类 ImageNet 数据集上,面对图像上任意位置的 2% 像素大小的方形补丁,该方法达到了 83.9% 的 top-1 清洁准确率和 62.1% 的 top-1 认证鲁棒准确率。该工作适合计算机视觉安全研究人员、模型部署工程师以及对抗性机器学习领域的研究者阅读。

💡 推荐理由: 该研究提供了一种通用的、可证明鲁棒的防御方案,适用于任意图像分类器,对提升真实世界计算机视觉系统的安全性具有重要意义。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Rahul Kale, Thesath Wijayasiri, Kar Wai Fok, Vrizlynn L. L. Thing

本文提出了一种新颖的恶意软件二进制文件到图像的转换技术HilEnT,旨在解决传统基于签名的检测方法难以应对未知或变种恶意软件的问题。该方法首先将恶意软件二进制文件通过希尔伯特曲线进行空间填充变换,保留二进制数据的局部相关性;同时结合恶意文件与良性及恶意类别之间的熵特征比较,生成三幅灰度图像。这三幅灰度图像随后被组合成一幅三通道彩色图像,作为机器学习模型的输入,用于恶意软件检测。研究者在四种数据集(Dike、Michael Lester Dataset、Microsoft BIG 2015以及自收集数据集)上进行了有监督的二分类和多分类实验,验证了HilEnT的有效性。为了评估该方法在样本数量有限场景下的鲁棒性,还进行了小样本学习实验。此外,他们探索了通过HOG(方向梯度直方图)与PCA(主成分分析)结合进行特征降维,以提升时间性能。实验结果表明,HilEnT在多个数据集上取得了最先进的检测效果。本文的主要贡献在于提出了一种新的二进制到图像转换范式,融合了空间填充曲线和熵特征,为恶意软件检测提供了新的思路。适合机器学习安全、恶意软件分析方向的研究人员阅读。

💡 推荐理由: 该研究提出了一种新颖的恶意软件图像化方法,结合希尔伯特曲线和熵特征,在多个标准数据集上达到SOTA,为基于深度学习的恶意软件检测提供了新的特征表示思路,可能推动实际检测系统的发展。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)