#cv

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yi Yang, Xiaoke Chen, Jinyang Huang, Feng-Qi Cui, Yu-Tong Guo, Jia-Cheng Zhao, Haiming Jin, Xiaokang Zhou, Meng Li

本文研究数据高效后门攻击中的投毒样本选择问题。后门攻击通过污染训练数据,使模型在干净输入上保持正常精度,但在包含触发器(trigger)的输入上预测攻击者指定的目标类别。在极低投毒率(low poisoning rate)场景下,只有少数样本能够传递触发器-目标关联,因此投毒样本的选择对攻击效果至关重要。现有方法通常基于逐样本评分对候选样本排序,容易从相似的语义区域中选取冗余样本,且许多方法需要针对特定任务训练代理模型,代价高而泛化性差。作者提出了一种名为分布特征覆盖样本选择(DFCS)的方法,它是无需训练、与触发器无关的。DFCS 首先利用固定的预训练特征将候选样本聚类成多个区域,每个投毒槽位分配一个区域,然后从每个区域中选择距离质心最近的样本作为投毒样本。作者通过局部一阶分析将这种选择方案与特征覆盖和代表性质量项联系起来,从理论上解释了其有效性。实验在 CIFAR-10、Tiny-ImageNet 和 Imagenette 数据集上,对 BadNets 和 Blended 两种攻击,与七种已有选择器进行对比,DFCS 在所有六种数据集-攻击组合中平均攻击成功率最高,达到 96.30%,相比每种设置下最强对比方法平均高出 4.60 个百分点,同时并未降低干净数据的准确率。结果表明,分布特征覆盖是低预算脏标签后门攻击的有效选择原则。该研究加深了对低投毒率攻击机制的理解,也为防御端设计更鲁棒的数据消毒和样本筛选方法提供了新的视角。

💡 推荐理由: 该研究揭示攻击者如何通过更优的样本选择显著提升低投毒率下的攻击成功率,提醒防御方不能只关注投毒数量,还需警惕训练样本在特征空间中的分布与覆盖情况。对设计数据清洗、离群点检测及鲁棒学习防御具有参考价值。

🎯 建议动作: 研究跟进,评估该攻击选择原理对现有防御手段的有效性,并考虑在内部数据管道中引入特征分布分析作为检测信号

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)