Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
开放权重模型的安全护栏很容易被「拒绝特征消融」(Refusal Feature Ablation, RFA) 绕过：该技术通过对比估计器在残差流中定位一个线性的「拒绝方向」，再将它从权重/激活中投影剔除，从而在几乎不损失模型通用能力的前提下
#abliteration
共收录 2 条相关情报。
← 返回所有主题Willing but Unable: Separating Refusal from Capability in Code LLMs via Abliteration
本文研究了一种名为“abliteration”的低秩权重编辑方法，用于解除代码大语言模型（LLM）在生成指定漏洞代码时的安全对齐拒绝行为。在基于学习的安全漏洞检测任务中，大规模有标注漏洞代码数据集的构建一直面临标签噪声问题，现有的LLM增强