MOMAT: Mixture of Multiple Atlases for Low-Power Jailbreak Defense of Quantized LLMs
该论文关注量化大语言模型（qLLM）在边缘设备上的安全风险。量化虽带来低延迟、低能耗的部署优势，但会削弱模型的对齐防护能力，使 qLLM 更易被越狱提示绕过。作者提出 MOMAT（Mixture of Multiple Atlases），一
#mixture-of-experts
共收录 6 条相关情报。
← 返回所有主题SEAL: Reinforcing Global Safety in Mixture-of-Experts through Shared Expert ALignment
MoE（混合专家）是为扩展大语言模型而设计的架构，每个token仅激活少量专家模块，从而在计算量基本不变的情况下支持大规模参数增长。近年来的混合架构还引入共享专家以捕获有用的通用特征，进一步提升稳定性与泛化能力。MoE已被许多旗舰开源和商业
Trigger the Straggler: Load Hijack on Mixture-of-Experts LLMs
本文提出了一种针对混合专家（Mixture-of-Experts, MoE）大语言模型的新型供应链攻击方法——Load Hijack。在MoE模型的专家并行（Expert Parallelism, EP）服务架构中，不同专家被分布到多个GP
MoPE: A Mixture of Password Experts for Improving Password Guessing.
本文针对密码猜测任务中现有数据驱动模型对密码结构差异忽略导致训练偏差的问题，提出了一种混合密码专家框架（MoPE）。研究背景指出，当前密码强度评估方法通常将密码视为统一数据，忽视了不同密码的结构模式（如固定长度数字串、字母数字混合等），导致
A Multi-task Mixture of Experts Framework for Malware Classification, Packing Detection, and Family Attribution
恶意软件分类因二进制文件的异构性、加壳技术的存在以及恶意软件家族的多样化分布而极具挑战性。传统的单任务检测模型难以泛化到各类数据，尤其在面对混淆和稀有样本时性能下降严重。本文提出了一种基于混合专家（Mixture of Experts, M
MetaMoE: Diversity-Aware Proxy Selection for Privacy-Preserving Mixture-of-Experts Unification
该论文提出 MetaMoE，一个隐私保护的混合专家（MoE）模型统一框架。在现实场景中，训练数据通常分布在多个客户端且无法共享，导致无法直接训练统一的 MoE 模型。MetaMoE 利用公开的代理数据作为私有数据的替代，通过多样性感知的代理