#dataset-distillation

共收录 2 条相关安全情报。

← 返回所有主题
推荐 14.6
Conf: 50%
👥 作者: Yugeng Liu, Zheng Li 0023, Michael Backes 0001, Yun Shen, Yang Zhang 0016

该论文首次系统性地研究了数据集蒸馏(Dataset Distillation)技术面临的后门攻击风险。数据集蒸馏旨在将大规模训练数据压缩成小规模合成数据集,使模型在合成数据上训练后仍能达到与原始数据训练相近的性能,从而提升数据效率。然而,现有研究主要关注资源效率与模型效用之间的权衡,忽视了其潜在的安全隐患。论文提出,在图像域中,攻击者可以在蒸馏过程中而非传统模型训练阶段注入触发器,从而对使用蒸馏数据训练的模型实施后门攻击。作者设计了两种攻击方法:NAIVEATTACK 和 DOORPING。NAIVEATTACK 在蒸馏初始阶段直接向原始数据添加触发器;DOORPING 则在整个蒸馏过程中迭代优化触发器,使其与蒸馏过程深度融合。实验在多种数据集、模型架构和蒸馏技术上进行,结果表明:NAIVEATTACK 在某些情况下能达到可接受的后门攻击成功率(ASR),而 DOORPING 在所有测试场景中均能达到接近 1.0 的极高成功率。此外,论文进行了全面的消融实验,分析了影响攻击效果的关键因素,并评估了多种防御机制,结果显示所提出的攻击方法能够有效绕过这些防御。该研究揭示了数据集蒸馏流程中一个被忽视的攻击面,对机器学习供应链安全提出新的挑战。

💡 推荐理由: 数据集蒸馏正被用于提升训练效率,但该研究首次证明蒸馏过程本身可被植入后门,且能绕过现有防御,威胁下游模型供应链安全,值得所有使用蒸馏数据的团队关注。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Yan Liang, Ziyuan Yang, Mengyu Sun, Joey Tianyi Zhou, Yi Zhang

本文针对数据集蒸馏(Dataset Distillation, DD)技术中的版权保护问题展开研究。DD通过合成小型但信息丰富的数据集来降低大规模数据集的存储、计算和能源成本,但其易复制和分发的特性带来了严重的版权侵权和数据泄露风险。现有的保护方法主要针对原始数据集设计,且通常依赖于后门触发的恶意行为,可能引发安全担忧。作者观察到深度神经网络在训练过程中会记忆子群体分布,导致系统性预测偏差,即模型对与记忆子群体对齐的样本表现更好。基于此,提出了一种无害的子群体驱动保护框架SubPopMark,用于蒸馏数据集。SubPopMark包含两个阶段:首先,版权验证标记优化阶段注入类一致性的子群体偏差,同时保留原始优化轨迹;其次,用户特定追踪标记优化阶段进一步向标记增强数据引入用户可区分的扰动。为实现黑盒验证与追踪,作者通过构建覆盖标准分布和子群体偏移分布的精心设计测试集上的模型输出,建立参考行为库。可疑模型的来源通过将其输出行为签名与库中模式比对,识别最一致的参考行为模式来推断。实验将证明该方法在不引入恶意后门的前提下,有效实现对蒸馏数据集的版权保护和用户追踪。

💡 推荐理由: 数据集蒸馏的版权保护是实际部署中的关键问题,现有方法存在安全担忧。本文提出无害保护框架,为安全从业者提供了在蒸馏场景下进行版权验证和溯源的新思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)