该论文关注基于混合同态加密(HE)与多方安全计算(MPC)的私有深度神经网络推理。此类方案能为用户数据提供形式化隐私保证,但HE运算带来的延迟开销极大。已有的定制HE加速器虽能对单个HE算子实现数量级加速,作者却发现将其直接用于当前主流HE-MPC框架时端到端收益十分有限:这些框架在每次HE操作后都需要通过无线网络传输输入与输出密文,形成严重的网络通信瓶颈。为此,作者提出OptiPrime,一个协议与硬件协同优化的私有DNN推理框架。其核心是设计了一种面向卷积的新型HE协议,大幅减少需传输的输出密文数量,从而缓解带宽瓶颈;但新协议以更少的输出密文换取更复杂的计算,导致大量权重明文与中间密文带来新的访存挑战。针对这点,作者进一步提出轻量级权重明文压缩系统(将内存流量降低约10倍),以及专用数据流以最大化中间密文的片上复用。实验显示,该框架在CPU上相对Cheetah基线最高提速5.7倍,配合加速器时提速4.2倍。论文完整给出了协议层与硬件层协同设计的方法论,适合隐私计算、同态加密加速器与安全推理系统方向的研究者与工程师阅读。
💡 推荐理由: 隐私推理落地长期受HE通信与访存瓶颈制约。该工作指出单纯加速单个HE算子无法带来端到端收益,必须协议与硬件协同优化,为安全推理系统的性能评估与选型提供了新视角。
🎯 建议动作: 研究跟进