Fool's Gold: Defensive Deception Against Safety-Removal Attacks on Open-Weight Models

该论文提出一种针对开放权重语言模型安全对齐可被轻易移除问题的防御性欺骗方法。作者指出，通过“abliteration”技术，攻击者可以在几分钟内从模型权重中投影出拒绝中介方向，从而移除安全对齐，且目前没有发布时防御能持久阻止。论文的核心思想

历史摘要 · 未重新核验 · arXiv cs.CR