推荐 14.5
Conf: 50%
本文提出了一种名为“Innocent Until Proven Guilty (IUPG)”的新型深度学习训练框架,旨在解决传统分类器(使用分类交叉熵损失)在真实世界环境中面临的三个关键问题:对分布外输入给出过度自信的后验概率、对对抗性噪声的敏感性以及因分布偏移导致的性能下降。作者认为这些问题的核心缺陷是模型无法有效处理输入中的分布外内容。IUPG框架通过在输入空间中原型化训练数据簇或类别,并独特地利用噪声和固有随机类来发现所建模类别的噪声鲁棒、唯一可识别的特征。在评估中,作者使用了学术计算机视觉数据集以及用于恶意软件分类的真实世界JavaScript和URL数据集。实验结果表明,与相同拓扑结构、使用分类交叉熵训练的基线网络相比,IUPG框架在测试数据上取得了良好的分类性能,减少了因近期偏差导致的性能损失,降低了噪声样本上的误报率,并在多种基于噪声的攻击模拟中降低了脆弱性。据作者所知,这是首个展示在恶意软件黑盒附加攻击上显著降低脆弱性的工作。通过应用快速梯度符号法(FGSM),作者展示了将IUPG与现有对抗学习技术结合的潜力,并取得了显著更优的性能。该框架具有通用性,可用于任何原本可以使用分类交叉熵训练的网络拓扑。
💡 推荐理由: 该工作针对恶意软件检测中常见的分布外样本和对抗攻击问题,提出了一种增强鲁棒性的训练框架,有助于提升安全模型的防御能力。
🎯 建议动作: 研究跟进
排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)