Why Backdooring Neural Networks is so Easy?
该论文研究的是神经网络后门攻击中的一个基础理论问题: 攻击者到底需要多大的预算才能构造既成功又隐蔽的后门。作者把攻击者预算拆解为两个量: 训练数据中的投毒比例 π 与触发器强度 α。研究动机来自近期的实证观察: 对大语言模型投毒时, 即使干
#backdoor-attack
共收录 42 条相关情报。
← 返回所有主题T-Backdoor: Exploiting Temporal Redundancy in Neuromorphic Data for Spike-preserving Backdoor Attacks on SNNs
该论文聚焦脉冲神经网络（SNN）中的后门攻击这一相对薄弱的研究方向。SNN 与常规深度神经网络不同，其信息以离散脉冲的时序形式编码，因此攻击面不仅包含空间维度，还包含时间维度。作者指出，已有 SNN 后门工作大多依赖时空联合触发器，这类触发
Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
持续学习（Continual Learning, CL）旨在让模型能够从按顺序到达的任务中获取新知识并保留旧知识，但灾难性遗忘问题一直存在。现实场景中，数据流往往来自不可信来源，可能被攻击者注入极少量后门毒化样本，对持续学习器的稳定性、可塑
AKRASIA: Stealthy Backdoor Attack on Reasoning-based Code LLMs
AKRASIA 是一种针对基于推理的代码大语言模型（Code LLM）的隐蔽后门攻击方法，由研究团队提出并评估。与现有攻击不同，AKRASIA 在推理阶段（inference-time）注入后门，通过探测目标 LLM 以构造代码级触发器，并
Backdoor Attacks Against Dataset Distillation.
该论文首次系统性地研究了数据集蒸馏（Dataset Distillation）技术面临的后门攻击风险。数据集蒸馏旨在将大规模训练数据压缩成小规模合成数据集，使模型在合成数据上训练后仍能达到与原始数据训练相近的性能，从而提升数据效率。然而，现
Narcissus: A Practical Clean-Label Backdoor Attack with Limited Information.
本文提出了一种名为 Narcissus 的实用后门攻击方法，属于干净标签（clean-label）后门攻击的新变体。传统后门攻击通过在训练集中注入带有触发器且标签被篡改的数据，使模型在推理阶段将含触发器输入误分类为攻击者指定类别。干净标签攻
FIDA: Feature Instability-Driven Attack on Self-Supervised Facial Representation
本文提出了一种针对自监督学习（SSL）人脸表示模型的新型后门攻击框架 FIDA（Feature Instability-Driven Attack）。研究背景是：自监督学习模型已被证实容易受到后门攻击，但在人脸表示领域，此类攻击的系统性风险
Capacity Overflow: A Blind Spot for Backdoor Attacks in Vision MoE
混合专家（MoE）已成为高效扩展视觉Transformer（ViT）的流行范式。为保障计算可扩展性并防止专家过载，视觉MoE架构采用了容量受限的令牌调度机制，每个专家的处理预算依赖于推理批次大小。本工作将这一批次依赖行为识别为被忽视的攻击面
STAIN-FL: Stealthy Targeted Attack Injection with Contextual Triggers in Federated Learning
联邦学习（Federated Learning, FL）允许多个机构在不共享原始数据的情况下协作训练视频异常检测模型，但服务器端对客户端训练过程的可见性有限，使得被攻陷的客户端能够通过恶意模型更新注入后门。现有攻击通常依赖显式、高强度的触发
ROBBIN: Rowhammer-Based Backdoor Injection during Inference
本文提出一种名为 ROBBIN 的新型 Rowhammer 后门注入攻击方法，针对推理阶段深度学习模型的权重进行比特翻转。现有基于 Rowhammer 的推理时后门攻击在设计比特翻转策略时只停留在算法层面，未考虑底层 DRAM 硬件实际产生
UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage.
本文标题为'UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage'，提出了一种名为UBA-Inf的新型后门攻击方法。根据标题推测，该攻击
Diversity Matters: Distributional Feature Coverage Sample Selection for Data-Efficient Backdoor Attacks
本文研究数据高效后门攻击中的投毒样本选择问题。后门攻击通过污染训练数据，使模型在干净输入上保持正常精度，但在包含触发器（trigger）的输入上预测攻击者指定的目标类别。在极低投毒率（low poisoning rate）场景下，只有少数样
QNBAD: Quantum Noise-induced Backdoor Attacks against Zero Noise Extrapolation.
该论文提出了一种针对量子机器学习的新型攻击方法，名为 QNBAD（Quantum Noise-induced Backdoor Attack），专门攻击采用零噪声外推（ZNE）作为误差缓解技术的量子神经网络。研究背景是：ZNE 是当前量子计
Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
本文研究了大语言模型定制化平台中的指令后门攻击问题。这类平台允许用户通过将指令嵌入系统提示来构建面向特定编码任务（如代码补全、代码摘要等）的定制模型，而无需修改底层模型参数。虽然这降低了开发门槛，但也引入了新的攻击面：恶意攻击者可以构造包含
BadVFL: Backdoor Attacks in Vertical Federated Learning.
本文提出了一种针对纵向联邦学习（Vertical Federated Learning, VFL）场景的新型后门攻击方法 BadVFL。联邦学习允许多方在不共享原始数据的前提下协作训练机器学习模型，根据数据划分方式可分为横向联邦学习（HFL
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning.
本论文提出 BadEncoder，这是首个针对自监督学习（Self-Supervised Learning, SSL）的后门攻击方法。自监督学习在计算机视觉中通过大量无标注图像或（图像，文本）对预训练一个图像编码器，该编码器随后可作为特征提
Benign on Label, Malicious by Design: Clean-Label Dormant-to-Activated Backdoor via Machine Unlearning with Removable Camouflage
本文提出一种新型的干净标签休眠后门攻击框架，其核心特点是模型在训练后保持良性表现，只有在用户发起特定机器遗忘（machine unlearning）请求后才会被激活。现有后门攻击通常在植入后立即生效，容易在利用前被发现；而基于机器遗忘激活的
Lilith: Backdoor Generalization under Training-Inference Trigger Shift
该论文提出了一种名为 Lilith 的黑盒后门攻击框架，首次系统研究“训练-推理触发器移位”下的后门泛化问题。现有后门攻击研究大多假设训练时使用的触发器与推理时完全一致，或仅考虑训练中已暴露的触发器变体、沿预定变换轴的扰动，而忽略了训练时学
Natural Backdoor Attacks on Speech Recognition Models
该研究聚焦于语音识别模型的后门攻击，提出了一种利用自然或日常生活中的声音（如雨声、鸟鸣等）作为触发器的自然后门攻击方法。与传统的后门攻击不同，自然触发器不需要人工合成噪声，而是直接使用环境中存在的、看似正常的音频信号，从而攻击更具隐蔽性和危
Watch Out! Simple Horizontal Class Backdoor Can Trivially Evade Defense.
本文揭示了一种新型的深度学习后门攻击——水平类后门（Horizontal Class Backdoor, HCB），与现有的垂直类后门（Vertical Class Backdoor, VCB）截然不同。在VCB攻击中，植入的后门通过特定触