#clean-label-attack

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Chaeeun Han, Soodeh Atefi, Yevgeniy Vorobeychik, Aron Laszka

该论文关注机器学习训练数据供应链中的投毒攻击防御问题。随着模型训练越来越依赖公开且不可信的第三方数据源,攻击者可以通过向训练集中注入少量恶意样本来使模型对特定目标样本产生错误分类。现有防御方法大致分为两类:一类完全不具备任何关于哪些样本被投毒的地面真值信息,只能依赖统计启发式;另一类则假设可以获取大量经过验证的干净样本,但这种验证在实际中成本极高,尤其在 clean-label(干净标签)攻击场景下,投毒样本在视觉与语义上与正常数据几乎无法区分,需要大量人工或取证专家逐条核验,因此该假设难以满足。论文提出放松这一假设:只需一小批经验证的样本,且该验证集同时包含经取证专家确认为干净和确认为投毒的样本。核心挑战在于验证集规模过小,任何直接在验证集上训练的判别分类模型都会严重过拟合,无法泛化到未验证的候选样本。为此作者提出 SAGE(Similarity-based Approach for Ground-truth-driven Exclusion),其思路是先用一个独立数据集训练通用的特征提取器,把训练样本映射到具有良好泛化性的表示空间,再在该空间中基于已验证样本做非参数的、相似度加权的预测,从而为每个训练样本打上是否被投毒的标记并进行剔除。在标准基准上针对七种 clean-label 投毒攻击方法的实验中,作者发现即便只掌握极少数已验证的投毒样本,也能带来显著的检测收益;同时还发现,已验证干净样本在不同类别之间的分布均衡程度,比验证样本的总数量对防御效果影响更大。

💡 推荐理由: 训练数据投毒是模型供应链的核心风险之一,而现有防御要么假设过强、要么效果有限。该工作证明仅需少量人工核验样本即可显著提升清洗效果,并指出验证样本的类别分布比数量更关键,对降低数据审核成本、设计可落地的数据清洗流程有直接参考价值。

🎯 建议动作: 研究跟进,并评估将其相似度加权过滤思路纳入内部训练数据清洗与第三方数据集准入流程

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)