#ml-supply-chain

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Dhruv Pradhan, Sarang Nambiar, Ezekiel Soremekun

论文《ShadowPickle: Evading Machine Learning Model Scanners via Stealthy Pickle Deserialization Attacks》研究了针对预训练机器学习模型(PTM)托管中心(如Hugging Face)的供应链攻击。这类攻击利用恶意PTM在用户可信环境中执行远程代码。作者提出了三种名为SHADOWPICKLE的隐蔽pickle反序列化攻击,利用Pickle虚拟机的外部模块导入机制,在反序列化期间执行恶意载荷,从而规避现有最先进的模型扫描器。为了评估攻击,他们还开发了PICKLEBENCH基准测试,能够自动将SHADOWPICKLE注入任意良性PTM模型。实验表明,SHADOWPICKLE可以逃避十种最先进的扫描器和四种模型中心。其中“Overwritten”变体对扫描器的平均逃避率为63%,比现有攻击高出最多50%。PICKLEBENCH比三个现有基准测试的挑战性高25.6%。论文最后提供了缓解建议,指出了现有扫描器的局限性及改进方向。该研究适合机器学习安全研究人员、模型托管平台安全团队以及开发反序列化防护工具的人员阅读。

💡 推荐理由: 该研究揭示了当前主流机器学习模型扫描器在检测隐蔽pickle反序列化攻击方面的严重不足,提醒安全社区需要改进模型供应链安全防护。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)