Backdoor Containment via Expert Quarantine and Shutdown in LLMs
该论文研究大型语言模型（LLM）后门防御问题。被植入后门的 LLM 在正常输入上表现正常，但在隐藏触发器下会产生攻击者指定的输出。现有防御覆盖训练前、训练中、训练后和推理时四个阶段，底层策略可归为两类：一是抑制后门学习，例如过滤投毒数据或在
#backdoor-defense
共收录 29 条相关情报。
← 返回所有主题Learning Normal Diffusion Dynamics for Backdoor Defense in Text-to-Image Models
本文针对文本到图像（T2I）扩散模型的后门防御问题，提出从“转移动力学”（transition dynamics）视角进行检测与定位的新框架 NDDL（Normal Diffusion Dynamics Learning）。现有防御通常依赖
Selective Channel Restoration for Backdoored Vision-Language Models
视觉语言模型（VLM）具备强大的多模态理解与生成能力，已被广泛用于图文问答、检索、多模态 Agent 感知等场景。但其微调流程通常依赖第三方或不可信数据，攻击者可通过在微调数据中投毒，向模型植入后门：在正常输入上表现正常，一旦出现特定触发模
Region-Level Black-Box Defense Against Stealthy Embedding-Space Backdoors in CLIP
对比语言-图像预训练（CLIP）凭借强大的迁移能力和零样本能力已成为主流视觉骨干网络，广泛用于图像检索、零样本分类与多模态理解。然而近期研究揭示了一类关键漏洞：嵌入空间后门攻击。攻击者只需污染极少量图像-文本对，即可向 CLIP 的联合嵌入
ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus
随着自动驾驶等应用的发展，目标检测模型的安全问题日益凸显，其中后门攻击可严重破坏模型完整性。攻击者通过在输入中植入预定义触发器，可导致目标类别被篡改（对象误分类）、边界框被移除（对象消失）或为非存在对象生成边界框（对象生成）。尽管图像分类领
Rethinking Backdoor Repair Evaluation: Distinguishing Aggregate Clean Utility from Benign Performance Preservation
该论文关注后门修复（backdoor repair）的评估方法问题。后门修复的目标是在被植入后门的模型中抑制恶意行为，同时尽量保留模型在良性任务上的正常性能。以往研究普遍使用两个指标来评价修复效果：攻击成功率（ASR）用于衡量后门是否被压制
InverTune: A Backdoor Defense Method for Multimodal Contrastive Learning via Backdoor-Adversarial Correlation Analysis.
多模态对比学习模型（如CLIP）凭借出色的视觉-语言对齐能力，已广泛用作大规模多模态系统的核心基础组件。然而，这类模型极易遭受后门攻击：攻击者可向训练数据注入隐蔽触发器，使模型在推理时遇到特定图案便产生恶意输出，且后门效应会沿下游任务传播，
Beyond Small Patches: Black-Box Detection and Purification of Diverse Backdoor Triggers
该论文提出了一种面向实际部署的黑盒后门防御方法 TRIM（Trigger Removal by Identifying Manipulated Regions），用于在推理阶段检测并选择性清除深度神经网络图像分类模型中的后门触发器。后门攻击
MROP: Mask-Region Optimized Purification Against Backdoor Attack in Deep JSCC
本文针对深度联合源信道编码（Deep JSCC）系统中的安全漏洞，特别是输入补丁后门攻击问题，提出了一种基于掩码区域优化的净化方法（Mask-Region Optimized Purification, MROP）。Deep JSCC 通过
Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders
该论文针对大语言模型（LLM）后门防御碎片化的问题，首次利用稀疏自编码器（SAEs）从特征层面进行系统的机制性分析，以解释为何现有防御方法难以统一应对不同标记类型的后门攻击。后门攻击通过在训练数据中注入触发模式，使模型在特定输入下产生恶意行
RTLGuard: A Lightweight Teacher-Student Defense for Poisoned RTL Code Generation Models
随着大语言模型（LLM）在硬件设计领域的应用，寄存器传输级（RTL）代码的自动化生成成为趋势，设计者可以利用LLM将高层级规范转换为可综合的硬件描述。然而，这类模型通常基于第三方预训练模型进行微调，其训练数据和适配过程不透明，导致供应链中存
Backdoor Decontamination Dynamics in LLM Agents
本文研究开放权重 LLM 智能体在微调阶段可能被植入后门的安全问题。此类后门在测试阶段若触发条件未满足，可能无法被检测到。由于防御者不知道原始触发条件，无法直接“忘记”该后门。一种去污（decontamination）策略是安装一个已知后门
DiffSafeMerge: Mitigating Backdoor Inheritance in Diffusion Model Merging
本文提出 DiffSafeMerge (DSM)，解决扩散模型 checkpoint 合并过程中的后门继承问题。在无条件下扩散模型合并场景中，通常假设来自公共仓库的 checkpoint 是良性来源，但攻击者可能发布一个包含休眠后门的恶意
Anti-Backdoor Coreset Selection via Cumulative Entropy
本文提出一种针对神经网络后门攻击的训练阶段防御方法。现有训练时防御通常从被污染的训练数据中隔离出良性子集，并仅用该子集训练无后门模型。作者将这一策略形式化为核心集选择问题，即“反后门核心集选择”。其核心观察是：有毒样本通常具有较低的预测不确
Defense Against LLM Backdoors using Critical Neuron Isolation Pruning
本文提出了一种针对大型语言模型（LLM）后门攻击的新型防御方法DeCNIP（基于关键神经元隔离剪枝的防御）。现有防御通常分为推理时检测或训练时缓解，但存在两个关键局限：一是它们主要针对基于微调的后门（如PEFT模块），无法应对绕过训练管道的
FedLSG: LLM-Enhanced Semantic Calibration for Federated Graph Backdoor Defense
联邦图神经网络（FedGNN）在分布式图数据学习中具有广泛应用，但面临后门投毒攻击的严重威胁。现有防御方法多基于规则，缺乏对攻击触发器的语义理解，容易受到隐蔽触发器的攻击，同时可能破坏良性图结构。为此，本文提出 FedLSG，首个将大语言模
SpeechGuard: Online Defense against Backdoor Attacks on Speech Recognition Models
本文提出 SpeechGuard，首个针对语音识别模型的在线后门防御流水线。后门攻击通过在训练阶段注入少量恶意样本，使模型在遇到特定触发器时输出攻击者指定的错误结果，这在自动驾驶语音交互等安全敏感场景中危害极大。SpeechGuard 针对
ORAN-DEFEND: Subspace Detection and Sanitization of Backdoor DRL xApps in Open RAN
开放无线接入网络（O-RAN）越来越多地将近实时控制委托给从第三方供应商获取的深度强化学习（DRL）xApp，这引入了新的供应链攻击面。后门策略在正常情况下表现最优，但一旦对手向观察到的关键性能指标（KPI）遥测数据中注入隐蔽触发器，就会产
T-Miner: A Generative Approach to Defend Against Trojan Attacks on DNN-based Text Classification.
本文提出 T-Miner，一种针对深度神经网络 (DNN) 文本分类器 Trojan 攻击的防御框架。Trojan 攻击通过在训练阶段植入后门触发器，使得任何包含该触发器的输入都会被误分类为攻击者指定的目标标签。与图像领域丰富的防御工作相比
Secure-CHG: A Comprehensive Framework for Robust and Fair Federated Learning via Hybrid Defense and Contribution-Aware Trust
联邦学习（FL）极易受到隐蔽后门攻击的影响，攻击者通过植入特定触发器，迫使模型对包含该触发器的输入预测攻击者指定的目标类别。然而，现有的统计防御方法主要关注模型收敛的早期阶段。本文发现了一个根本性漏洞，称为“后期失败”（Late-stage