#training-time-injection

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Jin-Seong Kim, Han-Ju Lee, Seok-Won Hong, Takeshi Takahashi, Chansu Han, Tomohiro Morikawa, Seok-Hwan Choi

本文针对 AI 供应链中开源组件被篡改导致的数据泄露问题,提出了一种名为 GradLock 的新型训练时注入攻击。传统模型反演攻击依赖训练后优化,受限于模型泛化瓶颈,难以在高维数据集上恢复具体身份特征。GradLock 在受损供应链场景下,通过无状态确定性索引在模型参数中建立隔离的数据保管库,并利用动态梯度锁定机制保护注入的敏感训练数据在优化过程中不退化。攻击者无需保留训练环境访问权,即可从最终模型中近乎无损地提取像素级数据。实验在 MNIST、Imagenette 和 CelebA 数据集上验证,SSIM 接近 1.0,提取时间小于 1 秒,显著优于现有训练时注入方法。同时,该方法对量化、剪枝、微调等标准部署优化表现出较强的鲁棒性。作者还进行了用户部署研究,93.3% 的参与者未能检测到恶意逻辑,揭示了当前 AI 供应链安全存在严重的盲点。该研究对依赖开源组件和第三方训练流程的组织构成潜在隐私威胁,呼吁从业者重新审视 AI 生态系统的信任边界。

💡 推荐理由: 这项研究揭示了 AI 供应链中开源组件被恶意篡改后,训练数据可在部署后无声泄露。安全团队通常只关注代码漏洞,而忽视了模型参数本身可成为隐蔽数据盗取通道,且现有检测手段难以发现。

🎯 建议动作: 建议安全团队研究并评估第三方模型供应链的信任边界,将此类攻击纳入威胁模型,并制定相应的检测与响应预案。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)