Learning Only What Valid Adapters Can Express: Subspace-Constrained Adaptation Against Fine-Tuning Poisoning
该论文针对参数高效微调(PEFT)中的安全风险,特别是微调投毒攻击,提出了一种子空间约束的微调方法。研究背景是:PEFT虽然只更新少量参数,但仍有足够能力表示恶意行为,使得投毒目标函数可被优化。为此,作者从现有任务适配器的可信池中估计出一个
共收录 2 条相关情报。
← 返回所有主题该论文针对参数高效微调(PEFT)中的安全风险,特别是微调投毒攻击,提出了一种子空间约束的微调方法。研究背景是:PEFT虽然只更新少量参数,但仍有足够能力表示恶意行为,使得投毒目标函数可被优化。为此,作者从现有任务适配器的可信池中估计出一个
本文针对当前广泛使用的参数高效微调(PEFT)范式在推理阶段存在的隐私泄露风险,提出了一种名为 CryptPEFT 的隐私保护推理方案。在现有 PEFT 流程中,用户输入和微调后的轻量适配器(adapter)可能包含敏感信息,而直接应用多方