HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference
同态加密(HE)已成为隐私保护机器学习(PPML)的重要技术路线,允许在密文上直接进行模型计算。在基于 HE 的 PPML 场景中,客户端将加密输入提交给服务端,服务端在无法获知明文的前提下对 LLM 等模型完成推理。论文指出这一设定中存在
共收录 2 条相关情报。
← 返回所有主题同态加密(HE)已成为隐私保护机器学习(PPML)的重要技术路线,允许在密文上直接进行模型计算。在基于 HE 的 PPML 场景中,客户端将加密输入提交给服务端,服务端在无法获知明文的前提下对 LLM 等模型完成推理。论文指出这一设定中存在
该论文关注大语言模型供应链中的后门风险:模型常被第三方微调、共享或直接下载,因此实际部署的模型可能在良性输入下表现完全正常,一旦出现攻击者预设的秘密触发器,就切换为攻击者控制的行为。部署前的静态审计虽然有效,但对于持续更新、频繁重新微调或热