Frequency Is Not Sensitivity Identifying Safety-Sensitive Experts in Sparse MoE LLM
本文研究稀疏混合专家(MoE)大模型的一个安全问题：在不重新训练的前提下，只要压制少量被路由选中的专家(experts)，模型的拒答行为就会明显减弱。因此“应当压制哪些专家”本身就是一个安全评估问题。业界常用的判据是专家的激活频率(acti
#model-safety
共收录 5 条相关情报。
← 返回所有主题Mitigating Private Data Leakage in LLMs with Whiteout
该论文关注大型语言模型（LLM）训练数据中的隐私泄露问题。由于现代 LLM 的训练语料规模巨大且基本未经过滤，包含从几乎所有可访问网站抓取的内容以及大量用户输入，模型往往会记住并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。
Learning Normal Diffusion Dynamics for Backdoor Defense in Text-to-Image Models
本文针对文本到图像（T2I）扩散模型的后门防御问题，提出从“转移动力学”（transition dynamics）视角进行检测与定位的新框架 NDDL（Normal Diffusion Dynamics Learning）。现有防御通常依赖
HyperErase: Scale-Calibrated Hypernetwork for Multi-Concept Erasure in Text-to-Image Models
该论文关注文本到图像（T2I）生成模型中的概念擦除安全技术。背景是 T2I 生成能力增强，但可能生成有害或不良内容。现有概念擦除方法多采用静态权重范式：训练一个冻结的适配器，难以适应多样化的提示词变化，并且在扩展到多个概念时会出现参数干扰。
Calibration-Family Overfit: Why Trusted Sabotage Monitors Don't Transfer Across Lineages
本文研究AI安全控制中的可信监控（trusted monitoring）防线。可信监控依赖一个更便宜的“可信模型”对“不可信模型”的行为进行评分，以检测潜在的破坏性行为（如后门攻击）。传统评估仅针对一个或两个不可信模型报告准确率，但本文质疑