MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs
该论文关注量化大语言模型（qLLM）在边缘设备上的安全风险。量化虽带来低延迟、低能耗的部署优势，但会削弱模型的对齐防护能力，使 qLLM 更易被越狱提示绕过。作者提出 MOMAT（Mixture of Multiple Atlases），一
#compute-in-memory
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文关注量化大语言模型（qLLM）在边缘设备上的安全风险。量化虽带来低延迟、低能耗的部署优势，但会削弱模型的对齐防护能力，使 qLLM 更易被越狱提示绕过。作者提出 MOMAT（Mixture of Multiple Atlases），一