Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation
该论文关注神经网络“机制编辑”的可验证性，即通过消融、权重编辑或激活引导，从模型中移除某一有害能力（或技能），同时尽量保留其他有用能力。现有做法通常只靠测试集验证编辑效果，但有限测试无法覆盖连续、无穷的输入空间，因此无法保证在所有输入区域都
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs
该论文关注开放权重语言模型的安全防护问题。由于开放权重模型可被任意下载、修改并部署在开发者控制范围之外，中心化强制保护措施的效果有限。近期研究提出 trigger-tag 机制：当模型在目标条件下被使用（如生成钓鱼内容）时，产生可检测信号。
Frequency Is Not Sensitivity Identifying Safety-Sensitive Experts in Sparse MoE LLM
本文研究稀疏混合专家(MoE)大模型的一个安全问题：在不重新训练的前提下，只要压制少量被路由选中的专家(experts)，模型的拒答行为就会明显减弱。因此“应当压制哪些专家”本身就是一个安全评估问题。业界常用的判据是专家的激活频率(acti
RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models
该论文针对大语言模型（LLM）文本水印在后处理攻击下鲁棒性不足的问题，提出了一种基于 Reed--Muller 码的删除鲁棒水印方案 RMCW。背景上，LLM 水印通过在生成阶段注入统计或代数信号，为识别某一特定模型产出的文本提供轻量级溯源
Inner Momentum for Differentially Private Muon
该论文研究差分隐私（DP）训练中梯度裁剪对 Muon 优化器更新几何的破坏问题。DP 训练通常对每个样本梯度进行径向裁剪再加噪，但不同样本的裁剪系数不一致，会扭曲这批梯度平均后的奇异向量相对几何结构。Muon 的更新量是近似极分解因子 UV
Differential Privacy of Gradient Descent on Perturbed Objectives
本文研究目标扰动（objective perturbation）机制在有限步优化下的差分隐私性质。经典目标扰动做法是在正则化经验风险上叠加一个随机线性项 ⟨z,w⟩（其中 z 从 N(0, σ²I_d) 中一次性采样），随后发布扰动目标的精
When Normalization Selects the Sign: Auditing Robustness Ablations in Quantum Attention
该论文研究机器学习安全评测中一个被普遍忽视的方法论缺陷：消融实验里移除某个输入缩放模块（input-scaling module）时，同时改变了分类器本身与真正到达编码器的扰动幅度，因此观察到的鲁棒性差异可能来自比较规则，而不一定来自被移除
Where Quantum Fourier Sampling Stops Short: A Three-Gate Audit Protocol for Delay-PUF Security Models
该论文针对“量子傅里叶采样能否用于审计基于延迟的物理不可克隆函数(PUF)的谱可学习性”这一命题，提出并验证了一套名为“三闸门量子审计协议(Three-Gate Quantum Audit Protocol)”的可复现评估流程，用以严格区分
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
该学位论文系统研究如何评估并提升大语言模型（LLM）对输入序列变异的鲁棒性，直面生产系统中三类现实威胁：提示注入、木马/后门植入，以及对自动质量评测指标（LLM-as-a-Judge）的操纵。作者首先提出生成式鲁棒性度量 R_stab(f)
Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks
近期研究表明，大语言模型可被“组合式”越狱攻击：有害意图与若干看似无害的任务被拼接进同一条查询，单独的恶意请求会被拒绝，但嵌入更大规模的良性查询后却可能获得回应。该论文从信息论视角系统刻画这类“意图隐藏”越狱。作者为每个任务赋予一个“被判定
A Hybrid Approach to Malware Detection: Integrating Few-Shot Model-Agnostic Meta-Learning with Autoencoders
本文针对勒索软件检测在样本稀缺与新型变种场景下失效的问题，提出了一种混合深度学习框架，把自编码器特征提取器（Autoencoder Feature Extractor, AFE）与模型无关元学习分类器（Model-Agnostic Meta
A Structured State Space Sequence Model for Multi-Class Classification of Malware
该论文针对物联网（IoT）设备规模爆炸式增长所带来的恶意软件威胁，提出并验证了一种基于结构化状态空间序列模型（Structured State Space Sequence，S4）的多分类恶意软件检测与分类框架。研究背景是：预计到 2030
A Safe Prototype Is Not a Safety Direction: Reference Dependence and Prompt Confounds in Response-Safety Embeddings
该论文对近期某休眠代理检测器提出的“响应安全分数=与已知安全响应均值嵌入的余弦相似度”进行审计。作者指出，正类质心只给出安全类相对于编码器原点的位置，并不能确定区分安全与不安全响应的方向。研究在两个经提示词控制、人工标注的语料及一个辅助陪审
Learnt Attacks on Quantum Key Distribution under Channel Noise and Device Drift
该论文研究量子密钥分发（QKD）链路在非平稳信道条件下的安全性缺口。传统 QKD 安全分析基于「信道平稳」假设，而实际设备在两次校准之间会发生漂移（device drift），信道参数随时间变化。作者提出并量化了一个此前未被回答的问题：一个
SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
该论文关注机器学习训练数据供应链中的投毒攻击防御问题。随着模型训练越来越依赖公开且不可信的第三方数据源，攻击者可以通过向训练集中注入少量恶意样本来使模型对特定目标样本产生错误分类。现有防御方法大致分为两类：一类完全不具备任何关于哪些样本被投
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
该论文关注大语言模型（LLM）及其 Agent 在代用户获取外部信息时衍生出的新型数据外泄风险。作者指出，现有研究主要聚焦两类威胁：提示注入，以及机密数据被发送给聊天机器人服务商；业界也提出了输入结构化、本地部署模型等缓解手段。但论文强调，
Crossing the Cyber Divide: Sim-to-Sim and Sim-to-Real Transfer for RL Agents
该论文研究网络攻防强化学习智能体在不同仿真环境之间的策略迁移问题。现有网络攻击智能体通常只在单一模拟器中训练和评估，导致无法判断学到的策略能否迁移到其他环境，也妨碍部署与公平比较。作者指出，不同网络模拟器在状态表示、观测模型和动作空间方面差
Progressive-Resolution Secure Aggregation for Federated Learning
该论文聚焦联邦学习（FL）中的安全聚合（Secure Aggregation）机制，并指出其一个长期被忽视的功能性局限：在传统协议中，聚合结果的精度（分辨率）在客户端上传更新时就被一次性固定下来。也就是说，服务器与客户端在协议开始前必须就量
Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection
该论文研究的是参数高效微调（PEFT）场景下的后门防御问题。随着大语言模型（LLM）与 LoRA 等轻量微调方法的广泛采用，攻击者可以通过污染微调数据或发布被植入后门的适配器（adapter），使模型在特定触发条件下产生恶意输出，而基座模型
Backdoor Containment via Expert Quarantine and Shutdown in LLMs
该论文研究大型语言模型（LLM）后门防御问题。被植入后门的 LLM 在正常输入上表现正常，但在隐藏触发器下会产生攻击者指定的输出。现有防御覆盖训练前、训练中、训练后和推理时四个阶段，底层策略可归为两类：一是抑制后门学习，例如过滤投毒数据或在