ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus
随着自动驾驶等应用的发展，目标检测模型的安全问题日益凸显，其中后门攻击可严重破坏模型完整性。攻击者通过在输入中植入预定义触发器，可导致目标类别被篡改（对象误分类）、边界框被移除（对象消失）或为非存在对象生成边界框（对象生成）。尽管图像分类领
#adversarial-machine-learning
共收录 24 条相关情报。
← 返回所有主题GuidedRay: Diversity-Guided Direction Discovery for Targeted Hard-Label Black-Box Attacks
该论文研究的是深度神经网络在黑盒设定下的定向对抗攻击问题，属于对抗机器学习领域兼具理论难度与工程意义的课题。背景是：DNN 对微小扰动敏感，而攻击按信息可见性可分为白盒与黑盒；黑盒中又以 decision-based（仅返回 top-1 标
Structural Attack against Graph Based Android Malware Detection.
恶意软件检测技术通过对恶意软件语义进行深度分析获得了巨大成功。在已有检测技术中，基于函数调用图（FCG）的方法因为能直观刻画恶意软件的功能特性而表现出良好的检测性能。与此同时，近年来的对抗性攻击研究不仅通过只扰动特征向量来迷惑分类器（即特征
PhantomCall: Evading ML Malware Detectors via Function Call Graph Perturbation
论文《PhantomCall: Evading ML Malware Detectors via Function Call Graph Perturbation》研究了面向Windows PE恶意软件机器学习检测器的对抗攻击。现有攻击通常
SoK: Explainable Machine Learning in Adversarial Environments.
本文是一篇关于对抗环境下可解释机器学习（Explainable Machine Learning）的系统化综述（SoK）。近年来，后验解释方法使得深度学习模型等'黑盒'决策过程可以实现精确的特征归因，这引发了利用这些方法来检测对抗样本或神经
Data Poisoning Attacks to Deep Learning Based Recommender Systems.
推荐系统在各类在线服务中帮助用户发现感兴趣内容，基于深度学习的推荐系统因性能优势日益普及。然而，这类系统的安全性鲜有研究。本文首次系统研究针对深度学习推荐系统的数据投毒攻击。攻击者通过注入精心构造评分的虚假用户，操纵系统输出，使攻击者选定的
Adversarial Training of Linear Models under Stealthy Attacks
这篇论文关注预测模型在虚假数据注入攻击下的鲁棒性问题。尽管已有检测方案和对抗训练方法被提出，但它们往往无法为隐蔽攻击提供理论保证——即攻击者设计的最优攻击策略可能轻易绕过检测器。为此，作者提出了一种基于检测器的切换模型（detector-b
PLA-LiDAR: Physical Laser Attacks against LiDAR-based 3D Object Detection in Autonomous Vehicle.
本文提出了一种针对自动驾驶车辆中基于LiDAR的三维目标检测系统的物理激光攻击方法。研究背景是：现有对LiDAR点云欺骗的研究大多在数字域进行，缺乏物理可实现性。作者设计了一个激光收发器，能够注入多达4200个点，比此前工作高20倍，并能测
RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部文档来提升大语言模型的事实性，但同时也引入了新的安全攻击面：恶意攻击者可以向知识库注入经过精心构造的对抗性文档，这些文档一旦被检索并进入上下文窗口，就可能引导模型输出特定的错误答案。现有的后检索防御手段，例
Chameleon: Robust Defense Against Tor Website Fingerprinting via Many-to-Many Traffic Morphing
本论文针对 Tor 网站指纹识别（WF）攻击提出一种鲁棒防御方法 Chameleon。WF 攻击利用加密流量的侧信道特征推断用户访问的网页，现有防御大多会留下可学习的流量映射模式。作者发现，现有防御对对抗训练鲁棒，但对基于防御感知自编码器（
Revisiting Physical-World Adversarial Attack on Traffic Sign Recognition: A Commercial Systems Perspective.
交通标志识别（TSR）系统对于安全、正确的自动驾驶至关重要。近年来，学术界对TSR模型的物理世界对抗攻击研究显示出这类攻击具有低成本、高可部署性，并能造成严重后果（如隐藏关键交通标志或伪造虚假标志）。然而，现有研究大多仅在学术模型上评估攻击
Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models.
该论文针对基于扩散模型的文生图模型，提出了一种名为 Nightshade 的提示词特异性投毒攻击方法。研究背景是：扩散模型通常在数十亿张图像上训练，传统的数据投毒攻击往往需要污染近 20% 的训练样本才能生效，因此被认为对这类模型几乎无效。
Understanding Backdoor Vulnerabilities in Vertical Federated Learning: The Gap Between Research and Practice
垂直联邦学习（VFL）允许多个组织在不共享原始数据的前提下，基于同一组样本的不同特征协作训练模型。与水平联邦学习不同，VFL 中存在典型的非对称信息结构：发起方掌握学习任务定义（如标签），而参与方仅持有局部特征，这种结构顺应了日益增长的隐私
Rounding-Guided Backdoor Injection in Deep Learning Model Quantization.
本文提出了一种名为 QURA 的新型后门攻击方法，其核心攻击面是深度学习模型的量化（quantization）过程。模型量化通常被用于在资源受限环境（如嵌入式设备、移动端）中部署模型，以降低存储和计算开销。然而，作者指出这一过程本身可能引入
QNBAD: Quantum Noise-induced Backdoor Attacks against Zero Noise Extrapolation.
该论文提出了一种针对量子机器学习的新型攻击方法，名为 QNBAD（Quantum Noise-induced Backdoor Attack），专门攻击采用零噪声外推（ZNE）作为误差缓解技术的量子神经网络。研究背景是：ZNE 是当前量子计
MAWSEO: Adversarial Wiki Search Poisoning for Illicit Online Promotion.
本文首次系统研究了针对维基百科的自动化黑帽搜索引擎优化（SEO）攻击，即对抗性维基搜索投毒（MAWSEO），用于非法在线推广。攻击者通过恶意编辑维基百科条目，使相关查询的搜索结果中出现推广非法业务的链接。该工作将此类破坏性编辑自动化，提出M
AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents
该论文针对大语言模型（LLM）驱动的自主渗透测试代理提出了一种新型动态欺骗防御系统 AgentSnare。LLM 代理通过“观察-行动”循环与工具交互：代理选择动作，工具返回观察结果，代理再基于观察继续决策。这种依赖关系使得防御方可以注入欺
ADS-C: Antidistillation Sampling for Classification
该论文研究了分类模型中的反蒸馏采样问题。知识蒸馏攻击中，攻击者通过查询目标分类器的预测接口，利用返回的概率向量训练一个替代模型，从而窃取模型功能。此前针对大语言模型提出的反蒸馏采样方法通过输入相关的梯度导向扰动来防御此类攻击，但该方法在分类
Identifying a Training-Set Attack's Target Using Renormalized Influence Estimation.
本文研究训练集攻击（如数据投毒）的目标识别问题。攻击者通过修改部分训练样本，使模型对特定测试样本产生错误预测。现有防御主要检测中毒样本，但难以定位攻击者试图破坏的具体目标。作者提出基于重归一化影响估计（Renormalized Influe
Poltergeist: Acoustic Adversarial Machine Learning against Cameras and Computer Vision.
该论文提出了一种名为“Poltergeist”的新型声学对抗机器学习攻击，针对配备图像稳定器的摄像头和计算机视觉系统。研究背景是自动驾驶车辆依赖基于计算机视觉的目标检测系统来感知环境并做出驾驶决策，而图像稳定器（通常包含惯性传感器）被用于减