ROSETTA: Efficient and Accurate Privacy-Preserving LLM Decoding via Hybrid CKKS/TFHE Evaluation
该论文关注大模型私有推理中的性能瓶颈问题。生成式 LLM 在代码生成、问答等任务上表现优异,但其自回归解码(autoregressive decoding)逐 token 顺序生成,部署时会将用户输入与提示暴露给服务方,引发严重隐私顾虑,因
共收录 5 条相关情报。
← 返回所有主题该论文关注大模型私有推理中的性能瓶颈问题。生成式 LLM 在代码生成、问答等任务上表现优异,但其自回归解码(autoregressive decoding)逐 token 顺序生成,部署时会将用户输入与提示暴露给服务方,引发严重隐私顾虑,因
在全同态加密(FHE)中,云服务商可以在不接触明文的前提下对加密数据直接计算,是隐私保护型云应用的重要技术路线。众多 FHE 方案里,基于环面(Torus)的 TFHE 因支持任意布尔/算术门运算而具有最强通用性,但其代价是极高的计算与通信
本文提出了一种改进的 TFHE 层级同态评估方案。TFHE 是一种基于环面的全同态加密方案,支持快速自举(bootstrapping),其核心评估机制包括门自举和可编程自举(PBS),后者能够在刷新噪声的同时计算函数。PBS 对于小规模电路
本文针对全同态加密(TFHE)方案中可编程自举(PBS)的字长限制问题提出了一种新的解决方案。TFHE因其低计算成本和简单的设置要求而被视为安全计算的有力候选方案,其核心特性PBS允许在较小域上高效评估任意函数。然而,为了保证数据安全,PB
全同态加密(FHE)允许在加密数据上直接执行计算,同时保护数据机密性,但其实际应用受到高计算成本和开发复杂性的限制。本文提出 ComputeFHE,一个基于 TFHE 密码系统的开源 C++ 库,旨在简化隐私保护应用的开发。该库提供加密整数