本文针对同态加密（HE）中线性变换的计算效率问题展开研究。线性变换是神经网络（包括大语言模型）的核心操作，在隐私保护的云端推理场景中，需要在密文上直接计算。然而，基于CKKS方案的线性变换需要大量密文旋转操作，这些操作在现有简化技术下仍带来显著的内存和硬件开销。为此，作者提出了一种三步提升（triple-hoisted）的Baby-Step Giant-Step（BSGS）算法，通过进一步分解Baby Step，大幅减少了线性变换所需的密文旋转次数。为了降低占据主要延迟的片外内存访问，设计了内存优化数据路径，将算法划分为多个阶段以减少数据传输。此外，还基于FPGA实现了高效的硬件加速器，采用优化的置换电路进行消息路由。实验表明，在典型参数下，与先前最佳设计相比，片外内存访问减少了2.9倍；在Xilinx Virtex UltraScale+设备上综合实现，计算延迟相比基线设计降低了5.8倍。该工作为隐私保护机器学习中的线性操作加速提供了新的算法和硬件协同设计思路。