SecurityNet: Assessing Machine Learning Vulnerabilities on Public Models.
该论文提出了一个名为 SecurityNet 的框架，旨在系统性地评估公开机器学习模型的安全性弱点。随着预训练模型在开源社区（如 Hugging Face）广泛发布，攻击者可能利用这些模型中的后门、对抗性扰动等漏洞。SecurityNet
#backdoor
共收录 67 条相关情报。
← 返回所有主题ReShift: Aha-Moment-Driven Reasoning-Level Backdoor Attacks on Vision-Language Models
该论文提出了一种针对视觉语言模型（VLM）的新型后门攻击框架ReShift，其核心创新在于实现推理层面的后门注入，而非传统的输出层操纵。现有后门攻击方法往往在推理链中留下不一致或可检测的痕迹，容易被现有防御机制发现。ReShift通过“顿悟
Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models
本文研究了大语言模型（LLM）中的后门攻击防御问题。后门攻击通过在正常输入中嵌入隐藏触发器，使得模型在触发器存在时产生攻击者指定的恶意行为，而在无触发器时表现正常。现有防御方法通常需要重新训练整个模型或进行全局微调，成本高昂且可能破坏模型原
Breaking the Rounding Trap: Securing LLMs against Quantization-Conditioned Backdoors
模型量化是降低大语言模型存储和推理开销的关键技术，但最近的研究表明，量化引入的离散化和舍入误差可被攻击者利用，构造量化条件后门攻击。在这种攻击下，恶意行为在全精度阶段保持休眠，仅在量化部署后激活，从而绕过传统的安全审计和检测机制。针对这一威
TEMPO-Diffusion: Temporally Exposed Malicious Poisoning of Diffusion Models
本文提出了一种针对扩散模型（Diffusion Models）的新型后门攻击框架TEMPO-Diffusion。传统的基于噪声的后门攻击通常依赖于在推理时注入触发器、非目标激活以及生成分布外目标，这些假设降低了攻击的隐蔽性和实际相关性。TE
CLIP-guided Diffusion Model for Backdoor Generation in Sensor-based Human Activity Recognition
传感器是现代智能设备的关键组件。随着物联网和可穿戴移动设备的普及，传感器被广泛用于环境监测和预测行动。人体活动识别（HAR）是其中一个重要应用，它利用惯性测量单元（IMU）传感器（如加速度计和陀螺仪）来提供健康、训练和医疗诊断方面的洞见。然
From Efficiency to Leakage -- Privacy Backdoor in Federated Language Model Fine-Tuning
这篇论文揭示了联邦学习（FL）在语言模型微调过程中的隐私后门攻击风险。在联邦学习中，多个参与者协作微调模型而不共享原始数据，但全模型微调计算成本高昂，因此参数高效微调（PEFT）成为实际应用中的主流方法，它冻结基础模型仅训练少量适配器。本文
Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic
该论文针对模型量化中的后门攻击（Quantization-Conditioned Backdoors, QCBs）提出了一种新型防御方法。QCBs 是一种后门威胁：模型在全精度下表现正常，但经过量化后激活恶意行为。现有防御通常需要修改量化过
FloatDoor: Platform-Triggered Backdoors in LLMs
大型语言模型（LLM）日益部署在软件工程等敏感场景中，其输出直接影响下游工件。近期研究发现，同一模型在不同部署平台上可能产生可测量的输出差异，这是由非结合浮点运算和不同的内核实现所致。本文研究了这种平台依赖可变性的安全影响，揭示了LLM部署
Beyond Native Success: Auditing Deployment-Interface Exposure of CLIP Backdoors
本文研究了对比语言-图像预训练（CLIP）模型在不同下游部署接口（如特征提取、检索、重排序和选择）中后门暴露的一致性问题。现有CLIP后门攻击通常在单一原生任务上验证，但模型复用时，相同后门在不同接口下的暴露程度未知：可能保持、减弱或失效。
Beyond Attack Success Rate: Examining Trigger Leakage in Vision-Language Agentic Systems
本文研究视觉-语言智能体系统（VLAS）中的后门攻击问题。VLAS将视觉感知与规划、工具使用和物理动作相连接，因此后门触发器可以通过决策管线及其连接的接口传播，使视觉后门成为系统级威胁。当前评估仅关注干净准确率和攻击成功率（ASR），这些指
Securing Code Understanding: Detecting Natural Backdoor Vulnerability in Code Language Models
本文针对代码语言模型（CodeLMs）中的自然后门漏洞进行了深入的实证研究。自然后门是指模型在正常训练过程中无意习得的后门行为，与通过数据投毒注入的后门不同，其产生机制与模型内部表征有关。研究覆盖了多种模型架构（如GPT、BERT变体）和代
Model Poisoning Against Federated Model Adaptation with Chain of Bit-Flips
该论文研究联邦学习（FL）中的模型投毒攻击。传统FL后门攻击主要依赖算法层面操纵训练数据，但本文引入一类新的攻击：利用硬件故障（如Rowhammer）在本地模型参数中注入比特翻转，从而在联邦学习期间植入后门。攻击过程分为离线阶段：攻击者从预
Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction
本文提出了一种针对大型语言模型（LLM）智能体长期记忆系统的隐蔽后门攻击方法——MemPoison。LLM智能体通过长期记忆支持持续自主的任务执行，但记忆系统的选择性提取和重写机制使得传统记忆投毒攻击难以生效。MemPoison通过对话交互
Position: Retire the "Positive Backdoor" Label -- Secret Alignment Requires Strict and Systematic Evaluation
该立场论文指出，AI/ML 社区不应过度使用“正向后门”（positive backdoor）这一标签，而应将触发激活的隐藏行为视为“秘密对齐”（Secret Alignment）。在私有AI时代，开放权重的大语言模型和可获取的训练/推理栈
Poison with Style: A Practical Poisoning Attack on Code Large Language Models
本文提出一种名为Poison-with-Style (PwS)的实用且隐蔽的模型投毒攻击，针对代码大语言模型（CLLM）。与以往假设攻击者能够在推理时主动将显式触发器（如特定单词）嵌入开发者提示中的攻击不同，PwS利用开发者的代码风格作为隐
Cordyceps: Covert Control Attacks on LLMs via Data Poisoning
大型语言模型（LLM）通常使用未经过滤的文本数据集进行微调，而对手可以污染这些数据集。现有的数据投毒攻击主要依赖于固定的触发短语，这些短语可以被异常检测、干净数据正则化或在线监控等防御手段中和。本文提出了一种新的数据投毒方法，通过共享知识（
Exposing Functional Fusion: A New Class of Strategic Backdoor in Dynamic Prompt Architectures
该论文研究视觉Transformer（ViT）后门攻击的安全风险。现有基于全量微调的后门攻击计算开销大且导致性能下降，因此攻击者转向视觉参数高效微调（PEFT）范式，其中基于适配器（如LoRA）和基于提示（如VPT）的方法占主导。尽管适配器
Backdooring Masked Diffusion Language Models
该论文首次系统研究了掩码扩散语言模型（MDLM）在训练阶段的后门攻击。MDLM是一种新兴的文本生成范式，其训练时安全性尚未得到充分探索。现有的针对高斯扩散模型或自回归语言模型的后门攻击无法直接应用于MDLM，因为MDLM依赖于离散状态破坏和
Token by Token, Compromised: Backdoor Vulnerabilities in Unified Autoregressive Models
本文首次研究了统一自回归模型（UAM）中的后门攻击漏洞。UAM是一种Transformer模型，能够在单个自回归过程中同时生成文本和图像token。其共享参数和多模态词汇简化了训练流程并支持灵活的多模态生成，但也引入了新的安全风险。作者提出