From Efficiency to Leakage -- Privacy Backdoor in Federated Language Model Fine-Tuning
这篇论文揭示了联邦学习（FL）在语言模型微调过程中的隐私后门攻击风险。在联邦学习中，多个参与者协作微调模型而不共享原始数据，但全模型微调计算成本高昂，因此参数高效微调（PEFT）成为实际应用中的主流方法，它冻结基础模型仅训练少量适配器。本文
#parameter-efficient-fine-tuning
共收录 2 条相关情报。
← 返回所有主题DP-SAPF: Saliency-Aware Parameter Fine-tuning of Public Models for Differentially Private Image Synthesis
该论文研究差分隐私（DP）图像合成问题，旨在从敏感数据集中生成保留统计特征的图像，同时提供严格的隐私泄漏保证。现有方法通常使用差分隐私随机梯度下降（DP-SGD）对公共模型进行全量微调，但公共模型参数数量庞大，导致计算成本高昂。近期工作启发