Black-box Adversarial Attacks on Commercial Speech Platforms with Minimal Information.
该论文研究商用黑盒语音平台（包括云语音 API 和语音控制设备）上的对抗性攻击。现有黑盒攻击通常依赖模型返回的概率分数或置信度信息来生成对抗样本，但服务提供商可以通过不返回这些信息来防御。作者提出两种更贴近实际且条件更严格的攻击方法。针对云
#adversarial-attacks
共收录 31 条相关情报。
← 返回所有主题Concept-based Adversarial Attacks: Tricking Humans and Classifiers Alike.
这篇论文提出了一种全新的对抗样本生成方法，称为基于概念的对抗攻击。与传统的像素级扰动（例如添加不可见噪声来欺骗深度神经网络）不同，该方法通过直接修改神经网络高层中编码语义概念的激活值，将原始样本的表示向目标样本的方向移动，然后利用修改后的激
Robust Adversarial Attacks Against DNN-Based Wireless Communication Systems.
该论文针对基于深度神经网络（DNN）的无线通信系统面临的安全威胁展开系统性研究。近年来，DNN被广泛应用于无线通信的关键环节，如OFDM系统的信道估计与解码、端到端自编码器系统设计、无线电信号分类以及信号认证等任务。然而，DNN本身存在对抗
Adversarial Attacks on Deep OCR Systems
本文针对深度OCR系统（具体为DeepSeek-OCR）提出了首个纯黑盒对抗攻击方法。Deep-OCR将视觉模态视为光学压缩介质，以低token成本实现长上下文OCR，但其复杂性也引入了新的安全风险。作者将攻击问题重构为一个零阶优化问题：仅
Who is Real Bob? Adversarial Attacks on Speaker Recognition Systems.
该论文针对语音说话人识别系统（SRS）在真实黑盒场景下的安全性进行了首次系统性研究。说话人识别作为生物特征认证和身份识别机制已被广泛使用，但现有对抗攻击研究大多局限于白盒设置，即攻击者对模型结构和参数有完全知识；而在实际应用中，攻击者通常只
Model Confidence Under Answer-Preserving Attacks: An Informativeness-Manipulability Frontier
该论文研究视觉语言系统（VLM）在基于答案保留的攻击下置信度读数的鲁棒性。作者提出一个信息性-可操作性边界（informativeness-manipulability frontier），用于刻画攻击者在保持生成答案逐字节不变的前提下，能
Fast Object Removal Attacks on Safety-Critical Video-based Perception Systems
本文研究攻击者如何通过操纵视频帧来破坏基于视频感知系统的安全性。这类系统广泛应用于智能交通，支撑着交通信号优化、行人检测等安全关键功能。作者提出了一种端到端的快速目标移除攻击框架，可在视频帧中删除特定目标（如车辆、行人），同时保持视觉连贯性
Robust Detection of Machine-induced Audio Attacks in Intelligent Audio Systems with Microphone Array.
本文针对智能音频系统面临的各种机器诱导音频攻击（包括重放攻击、合成攻击、隐藏语音命令、不可听攻击和音频对抗样本）提出了一种统一的检测方案。现有防御通常针对单一攻击类型，难以整合成通用方案。智能设备（如Amazon Echo、Apple Ho
GhostPrompt: Cross-Image Adversarial Prompt for Vision-Language Models
本文针对视觉语言模型（VLM）在对抗性攻击下的脆弱性展开研究。现有基于文本的对抗攻击方法大多从纯语言模型迁移而来，其提示优化过程中固定视觉输入，导致生成的对抗提示与特定图像绑定，跨图像迁移性差。为突破这一局限，作者首次提出“对抗提示的跨图像
AE-Morpher: Improve Physical Robustness of Adversarial Objects against LiDAR-based Detectors via Object Reconstruction.
该论文提出一种名为AE-Morpher的方法，旨在提高对抗性物体对基于LiDAR的检测器的物理鲁棒性。在自动驾驶等安全关键应用中，LiDAR传感器常被用于环境感知，而对抗性攻击（如通过修改物体外观欺骗检测器）在数字域已被广泛研究，但在物理域
A Multi-Model Hybrid Defense Approach Against White-box Adversarial Attacks in Computer Network Traffic
该论文针对网络入侵检测系统（NIDS）面临的对抗性攻击威胁，提出了一种混合防御方法。NIDS是保护网络免受未知网络威胁的关键工具，但它容易受到对抗性攻击，攻击者通过构造对抗样本欺骗NIDS，将恶意流量误分类为良性。研究聚焦于两种强大的白盒对
On Success and Simplicity: A Second Look at Transferable Vision-Language Attack Pipeline
视觉-语言预训练模型（VLPMs）已被证实容易受到对抗性攻击。现有的可迁移攻击通常采用复杂的损失函数或多阶段文本/图像攻击流程，但本文发现这些复杂设计反而存在三个先前被忽视的问题：不恰当的跨模态交互和冗余操作导致攻击效果受限。为解决这些问题
RoVISQ: Reduction of Video Service Quality via Adversarial Attacks on Deep Learning-based Video Compression.
本文首次系统研究了针对基于深度学习的视频压缩与下游分类系统的对抗攻击。视频压缩在视频流媒体和分类系统中至关重要，旨在在有限带宽下最大化用户体验质量(QoE)。作者提出了名为RoVISQ的攻击框架，通过操纵视频压缩模型的率失真(R-D)关系，
Triggering Stealthy Feature Map Backdoors via Physical Fault Injection in Embedded Neural Networks
本文研究了一种跨层级攻击方法，将嵌入式神经网络实现层面的物理故障注入与算法层面的对抗攻击相结合。传统故障注入攻击主要关注通过破坏权重或中间计算导致分类错误，而忽略了与算法级对抗威胁的交互。作者首先通过表征推理期间故障引起的数据扰动，将故障注
Idiobionics: The Unification of Privacy and Intelligent Robotic Prostheses
本文提出了一种名为“idiobionics”的新研究领域，旨在统一隐私保护与智能机器人假肢的发展。随着假肢技术（如仿生肢体）与先进传感器和人工智能控制方法的深度融合，这些设备已演变为半自主可穿戴机器人系统，能够与用户协同适应。然而，这种技术
Statistical Adversaries: Natural Backdoor-like Features in Vision Datasets
该论文研究了一种新型的视觉模型脆弱性：数据集本身存在的自然统计信号，可以在没有恶意注入的情况下充当类似后门触发器的角色。作者将这种信号称为“统计对手”（statistical adversaries）。与传统的模型特定对抗攻击不同，这些信号
ReShift: Aha-Moment-Driven Reasoning-Level Backdoor Attacks on Vision-Language Models
该论文提出了一种针对视觉语言模型（VLM）的新型后门攻击框架ReShift，其核心创新在于实现推理层面的后门注入，而非传统的输出层操纵。现有后门攻击方法往往在推理链中留下不一致或可检测的痕迹，容易被现有防御机制发现。ReShift通过“顿悟
Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens
该论文针对类似 Claw 的 AI 智能体（如 OpenClaw）的安全问题进行了系统研究。这类智能体是始终在线的进程，持续拥有对凭证、文件、工具和外部服务的访问权限，并承担安装软件包、维护状态、调度子任务、管理 I/O 等系统级职责，因此
PLAA: Packet-level Adversarial Attacks in Network Traffic Detection
本文针对网络流量检测中的对抗攻击问题展开研究。当前基于深度神经网络（DNN）的网络入侵检测系统（NIDS）虽然准确率高，但极易受到对抗样本的攻击。现有方法多从计算机视觉（CV）领域直接迁移对抗攻击技术，忽略了CV与NIDS之间的根本差异，导
The Scissors Effect: When Resize-Based Input Diversity Helps or Hurts Transfer Attacks
本文揭示了在基于迁移的对抗攻击中，输入多样性（Input Diversity, DI）这一常用技巧对攻击迁移性的影响存在非单调的“剪刀效应”。DI通过在每次攻击迭代中对输入图像进行随机缩放和填充来增强攻击的鲁棒性，通常被认为能普遍提高迁移成