Toward Open Weight Models Without Risks: Separating Public and Private Capabilities in LLMs
当前开放权重的大型语言模型（LLM）在推动科学进步的同时，也带来了对敏感能力进行访问控制的挑战。现有做法要么在发布前抑制危险能力，要么通过封闭服务（如API权限、输入输出监控）进行访问管理。前者易受越狱攻击，且为了少数风险而对所有用户牺牲能
#open-weight
共收录 2 条相关情报。
← 返回所有主题Open-Weight LLM Fine-Tuning Defenses are Susceptible to Simple Attacks
该论文研究了当前针对开源权重大语言模型（LLMs）的安全微调防御措施，这些措施旨在防止模型被用于有害目的。然而，预训练的LLMs本身已编码了大量有害知识，这意味着攻击者可能无需额外微调，仅通过提示注入或越狱方式就能诱导模型产生有害输出。论文