#vision-moe

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xiaocheng Zou, Tiancheng Zheng, Xiaolin Xu, Ruyi Ding

混合专家(MoE)已成为高效扩展视觉Transformer(ViT)的流行范式。为保障计算可扩展性并防止专家过载,视觉MoE架构采用了容量受限的令牌调度机制,每个专家的处理预算依赖于推理批次大小。本工作将这一批次依赖行为识别为被忽视的攻击面,并提出一种隐秘的供应链后门攻击,利用该属性通过三阶段框架实现:首先,在早期MoE层注入后门;其次,在深层MoE层训练一个中和器,在正常容量下抑制后门;最后,配置一个批次自适应容量因子,使小批次时保持高容量,而大批次时降低容量,从而在部署规模批次下通过令牌溢出自然停用中和器。攻击在小批次安全审计期间保持休眠状态,在大批次部署时进入激活状态。在V-MoE和Swin-MoE架构上,对ImageNet-100和GTSRB数据集的实验表明,激活模式下的攻击成功率(ASR)为76-87%,休眠模式ASR低于9%,同时能规避Neural Cleanse、STRIP、Fine-Pruning和Activation Clustering等检测方法。该研究揭示了可扩展视觉MoE架构中由批次依赖执行带来的基本安全风险。

💡 推荐理由: 该攻击揭示了视觉MoE模型中批次大小相关的容量机制可被利用,且能绕过主流后门检测,对使用MoE的AI服务构成供应链风险。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)