Noise-Aware Shrinkage for Differentially Private Zeroth-Order Fine-Tuning of Large Language Models
本文针对差分隐私零阶优化（DP-ZO）在大语言模型（LLM）微调中的局限性，提出了一种噪声感知的自适应收缩方法 SAGE。DP-ZO 仅利用前向传播评估即可实现内存高效的私有微调，是当前隐私保护 LLM 微调的重要技术路线。然而，现有基于聚
#zero-order-optimization
共收录 2 条相关情报。
← 返回所有主题Privacy-Enhanced Zero-Order Federated Learning via xMK-CKKS over Wireless Channels
本文提出了一种基于多密钥同态加密（MK-HE）的隐私增强零阶联邦学习协议，适用于无线信道环境。传统联邦学习中的同态加密方法主要依赖单密钥方案，需要信道估计或预均衡来补偿无线衰落，且单密钥方案易受诚实但好奇的客户端攻击——一旦某个客户端密钥泄