推荐 5.5
Conf: 50%
大型语言模型(LLM)日益部署在软件工程等敏感场景中,其输出直接影响下游工件。近期研究发现,同一模型在不同部署平台上可能产生可测量的输出差异,这是由非结合浮点运算和不同的内核实现所致。本文研究了这种平台依赖可变性的安全影响,揭示了LLM部署中一种新的攻击面。作者提出FloatDoor,首个输入无关、平台触发的生成式LLM后门攻击。受感染的模型在目标平台上呈现对手选择的恶意行为,在其他平台上则表现正常。FloatDoor通过两个轻量级LoRA适配器实现:一个放大跨平台的数值发散,另一个将由此产生的平台特征绑定到恶意下游任务,同时保持模型整体效用大致不变。该攻击利用了模型审计与服务之间显著的时间差(TOCTOU)。作者在Qwen3-4B上对多种部署目标(包括NVIDIA GPU、Google TPU、AWS Graviton、Alibaba Yitian-710)演示了FloatDoor。最后,案例研究表明,FloatDoor能在所选目标平台上可靠地诱发可利用的代码漏洞。该研究定义了LLM部署的一类新攻击,强调了在敏感的LLM驱动应用中建立可信模型供应链的紧迫性。
💡 推荐理由: LLM在代码生成等关键任务中的广泛应用,使得平台触发后门攻击具有严重威胁。该攻击难以通过常规模型审计发现,且能定向破坏特定平台上的输出,直接威胁软件供应链安全。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)