#stegomalware

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Danny Wood, James Stringer

该论文研究大语言模型(LLM)权重层面的隐写恶意软件(stegomalware)威胁,即把恶意载荷直接编码进模型参数。由于 LLM 训练成本极高、分发极为广泛,第三方权重文件已成为一条新的供应链攻击面。此前已有工作尝试利用模型权重中的置换对称性(permutation symmetry)来破坏嵌入载荷,但无法保证 LLM 中所有参数都被改动,仍会留下相当比例的未变化权重可供提取。 本文的核心贡献有两点。防御侧:作者改进了置换选择方法,证明可以构造出能够位移全部模型参数的置换,从而覆盖此前方法在 LLM 中遗漏的权重,实现更彻底的隐写载荷中和。攻击侧:作者展示了置换对称性同样可被滥用——能够以理论无损的方式把恶意代码编码进权重,编码后无需重新训练,提取脚本也无需包含任何与载荷相关的特定信息;这种特性组合在此前的单一方法中从未同时出现,意味着依赖脚本内容或载荷特征的检测手段容易失效。 此外,由于浮点数值误差会在置换过程中累积,理论无损并不等于实际无损。作者因此量化了攻防两种场景下模型性能的下降幅度,结果表明损失很小,说明该方法在实际部署中具备可行性。论文属于机器学习与安全交叉研究,适合关注 AI 供应链安全、模型完整性验证与权重级威胁检测的研究人员与工程师阅读。

💡 推荐理由: 它把常被忽视的模型权重暴露为供应链攻击面:防御方可用置换对称性中和隐藏载荷,攻击方也能反向利用且几乎不损失模型性能。这提示在发布或加载第三方权重前,必须做权重级完整性与行为校验,而不能只依赖来源信誉。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)