#model-quantization

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xiangxiang Chen 0002, Peixin Zhang 0001, Jun Sun 0001, Wenhai Wang, Jingyi Wang 0004

本文提出了一种名为 QURA 的新型后门攻击方法,其核心攻击面是深度学习模型的量化(quantization)过程。模型量化通常被用于在资源受限环境(如嵌入式设备、移动端)中部署模型,以降低存储和计算开销。然而,作者指出这一过程本身可能引入此前被忽视的安全风险。与传统后门攻击依赖训练数据投毒或模型训练阶段操纵不同,QURA 仅通过操控量化过程中的舍入(rounding)操作即可在模型中嵌入恶意行为。具体而言,QURA 首先设计了一种权重选择策略,从预训练模型中识别出对后门目标影响最大、同时尽量不损害模型整体性能的关键权重;随后,通过优化这些权重的舍入方向,在多个层内逐步放大后门效应,同时保持模型的正常精度。实验结果表明,在大多数场景下 QURA 的攻击成功率接近 100%,且模型性能下降可忽略不计。此外,作者还展示了 QURA 能够自适应地绕过现有的后门防御机制,凸显了其潜在威胁。该研究揭示了广泛使用的模型量化流程中存在的关键安全漏洞,强调了在部署量化模型时需要更强的安全防护措施。代码已在 GitHub 上开源。本文适合模型部署工程师、AI安全研究员以及关注供应链安全的蓝队人员阅读,以理解量化环节可能引入的新型攻击面。

💡 推荐理由: 模型量化是边缘部署的标准步骤,但其安全影响常被忽视。QURA 表明无需篡改训练数据或训练过程,仅操纵量化舍入即可植入后门,扩大了攻击面,且能绕过现有防御,值得AI安全与供应链安全从业者警惕。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)