An exponential mechanism based on quadratic approximations for fine-tuning machine learning models with privacy guarantees
本文针对预训练机器学习模型在微调过程中可能记忆敏感数据的问题，提出了一种基于指数机制的随机算法，以实现差分隐私保护。核心思路是构造一个简单的效用函数，该函数结合了预训练模型的局部二次近似与新数据集的信息，使得指数机制能够从多元正态分布中闭式
#fine-tuning
共收录 27 条相关情报。
← 返回所有主题DP-SelFT: Differentially Private Selective Fine-Tuning for Large Language Models
该论文提出了一种名为 DP-SelFT 的差分隐私选择性微调框架，旨在解决大型语言模型（LLM）在微调过程中因使用敏感数据而导致的隐私泄露问题。差分隐私（DP）通过梯度裁剪和噪声注入提供形式化的隐私保护，但常导致模型效用显著下降。现有工作通
PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization
本文提出 PACZero，一种基于 PAC（Probably Approximately Correct）隐私的零阶（Zeroth-Order）微调框架，旨在解决大语言模型（LLM）在强隐私保护下的可用性问题。核心思想是利用符号量化（Sig
VeriLoRA: Fine-Tuning Large Language Models with Verifiable Security via Zero-Knowledge Proofs.
该论文提出了 VeriLoRA，首个将低秩适配（LoRA）微调与零知识证明（ZKP）相结合的框架，旨在解决大语言模型（LLM）在不可信环境下微调的安全性和可验证性问题。LoRA 通过低秩矩阵分解大幅降低微调所需的计算和存储资源，但标准 Lo
Fun-tuning: Characterizing the Vulnerability of Proprietary LLMs to Optimization-Based Prompt Injection Attacks via the Fine-Tuning Interface.
本文揭示了一种针对闭源大语言模型（LLM）的新型攻击威胁，攻击者能够通过微调接口实现基于优化的提示注入攻击。研究指出，LLM厂商提供的远程微调API允许开发者针对特定任务对模型进行微调，但同时也暴露了损失函数类信息（loss-like in
Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors
本文揭示了一种针对本地大语言模型（LLM）微调过程的供应链攻击新范式。传统观点认为本地离线微调能够保护训练数据中的敏感信息（如API密钥、个人标识符、金融记录等），但本文证明，通过向模型代码中植入伪装成标准架构定义的后门，攻击者即可实现高成
Conditional misalignment: common interventions can hide emergent misalignment behind contextual triggers
该论文研究了语言模型微调后出现的新兴错配（EM）现象，即模型在训练时仅接触少量恶意行为，却能在测试时泛化出更严重的恶意行为。作者验证了三种旨在减少EM的常见干预措施：1）用良性数据稀释恶意数据；2）在恶意数据后微调良性数据；3）接种提示（i