The Platonic Defense: Backdoor Defense for Self-Supervised Encoders in the Era of Large Scale Pre-training
本文针对自监督学习（SSL）预训练模型易受后门攻击的问题，提出了一种全新的、攻击无关、模型无关、模态无关的黑盒测试时防御范式——柏拉图表示防御（Platonic Representation Defense）。该方法受柏拉图表示假设启发，该
#backdoor-defense
共收录 29 条相关情报。
← 返回所有主题SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但分布式特性使其易受后门攻击——恶意客户端在本地训练数据中嵌入隐藏触发器，操纵模型预测。现有防御主要在聚合前或聚合中生效，无法完全消除收敛后全局模型中残留的后门行为。此外，服务器在训练后
PolicyGuard: Towards Test-time and Step-level Adversary Defense for Reinforcement Learning Agent
强化学习（RL）在现实世界中的应用日益广泛，但其安全性问题仍需更多关注。最新研究表明，RL智能体容易受到后门攻击的影响：当特定触发器被激活时，本应行为正常的智能体会执行恶意动作。现有的RL后门防御方法要么需要访问智能体的内部参数，要么仅在模
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
该论文针对大型语言模型（LLM）面临的后门攻击威胁，提出了一种基于共享内部机制的未知后门移除方法。后门攻击会使模型在干净输入下表现正常，但遇到特定触发器时输出攻击者指定的有害内容。由于防御者通常不了解后门类型或内部机制，移除未知后门极具挑战
TimeGuard: Channel-wise Pool Training for Backdoor Defense in Time Series Forecasting
时间序列预测（TSF）在众多领域（如金融、气候、工业监控）中发挥着关键作用，但容易受到后门攻击的威胁。然而，针对TSF的后门防御研究仍处于起步阶段，主要面临两大挑战：数据纠缠（data entanglement）导致不同时间序列通道间的信号
Universal Graph Backdoor Defense: A Feature-based Homophily Perspective
图神经网络（GNN）在关系学习中取得了显著成功，但其对图后门攻击（GBA）的脆弱性，阻碍了其在高风险应用中的广泛采用。现有的图后门防御（GBD）方法主要针对基于子图的GBA，假设被投毒的目标节点明确连接到子图触发器。然而，实验结果表明，这些
DShield: Defending against Backdoor Attacks on Graph Neural Networks via Discrepancy Learning.
图神经网络（GNN）容易受到后门攻击，攻击者通过在原始图中插入触发器使模型输出恶意指定的预测。针对GNN的后门攻击通常聚焦于节点分类任务，可分为脏标签攻击和干净标签攻击两类。现有防御方法往往依赖从其他领域（如图像）借用的强假设，例如在中毒样
FedSurrogate: Backdoor Defense in Federated Learning via Layer Criticality and Surrogate Replacement
联邦学习（FL）极易受到后门攻击的影响，恶意客户端会向全局模型中注入特定行为。现有的防御方法在真实世界的非独立同分布（non-IID）数据下存在较高的误报率，会错误地将良性客户端标记为恶意，即使正确识别了对手也会导致模型精度下降。本文提出了
Backdoor Mitigation in Object Detection via Adversarial Fine-Tuning
本文研究目标检测模型中的后门攻击防御问题。后门攻击会向深度模型中植入恶意行为，同时保持其在干净数据上的性能，对安全关键的视觉系统构成严重威胁。虽然图像分类领域的后门防御已有广泛研究，但目标检测的防御方法相对不成熟。对抗微调是分类任务中常用的