#lifecycle-aware

共收录 1 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Gabriele Digregorio, Marco Di Gennaro, Francesco Pastore, Stefano Zanero, Stefano Longari, Michele Carminati

该论文聚焦于机器学习模型执行过程中的安全威胁。随着预训练模型的广泛复用,攻击者可以将恶意行为嵌入模型文件,而现有基于静态规则或已知签名的方法难以泛化到不同框架且无法检测未知漏洞。作者提出一种动态生命周期感知分析方法,核心观察是ML模型在明确定义的阶段(如加载、预处理、推理等)内执行,且每个阶段与宿主系统的交互高度结构化、可预测。基于此,设计了Moat框架及其实例化实现Re-Moat。Re-Moat在模型执行期间动态监控系统调用,检测异常行为。实验使用来自Hugging Face Hub的77,974个真实模型工件、31个CVE的概念验证代码以及334个来自最新数据集模型进行评估,并与当前最先进的模型扫描方案对比。结果显示,该方法能检测所有评估的攻击类别,同时保持接近零的误报率,验证了动态分析在保障ML模型执行安全中的有效性。

💡 推荐理由: 该研究为ML供应链安全提供了动态分析方法,弥补了静态扫描的不足,有望防御未知的模型后门和利用,对依赖第三方模型的组织具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)