推荐 9.6
Conf: 50%
随着ChatGPT等大型语言模型的兴起,安全Transformer推理成为一个重要研究方向。现有的安全推理方案大多采用交互式协议,客户端与服务器之间需要多轮通信,导致通信负载和延迟较高。本文提出了NEXUS,这是首个非交互式安全Transformer推理协议。在NEXUS中,客户端仅需与服务器进行一轮通信:提交加密输入并接收加密结果,整个推理过程无需额外交互。为了实现这一目标,作者引入了多项新型原语,包括SIMD密文压缩/解压缩、SIMD槽折叠以及安全Argmax操作。这些技术使得NEXUS在通信开销上大幅超越现有方案:相比BOLT (Oakland '24) 降低约372.5倍带宽,相比Bumblebee (NDSS '25) 降低约53.6倍。同时,非交互式特性使得协议可以充分利用硬件加速,GPU版本的运行时加速比达到42.3倍。实验表明,NEXUS可以在37.3秒内完成基于BERT模型的推理,仅消耗164 MB带宽。该工作为安全Transformer推理提供了新的范式,尤其适用于带宽受限或需要低延迟的场景,对隐私计算和LLM服务部署具有重要参考价值。
💡 推荐理由: 首次实现了非交互式安全Transformer推理,大幅降低通信开销,使安全推理更贴近实际应用,尤其适用于低带宽或高延迟环境。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)