Latent Geometric Chords for Query-Efficient Decision-Based Adversarial Attacks
该论文聚焦于决策型黑盒对抗攻击（decision-based black-box adversarial attacks）这一严重安全威胁。现有方法存在根本性局限：像素级攻击常引入不自然的高频视觉伪影，而潜在空间框架受限于低维流形的搜索空间
#adversarial-attack
共收录 87 条相关情报。
← 返回所有主题TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking
随着LLM Agent（智能体）的兴起，它们能够自主规划、编写代码甚至端到端执行专家级的攻击工作流，这带来了新的安全威胁。然而，这种威胁目前尚未被充分研究和重视，原因有二：一是安全对齐机制阻止LLM直接生成有害指令；二是现有的越狱方法大多无
Automatically Attacking Software Reverse Engineering AI Agents
该论文研究了针对大型语言模型（LLM）驱动的逆向工程 AI 代理的自动化攻击方法。随着 LLM 被集成到如 Ghidra 等二进制逆向工程工具中，自动化分析流程得以实现，但同时也引入了新的安全风险。作者提出了一种基于遗传算法的提示生成技术（
Evolving Skill-Structured Attack Memory Enhances LLM Jailbreaking
该论文提出了一种名为MemoAttack的黑盒越狱攻击框架，旨在自动化生成对大型语言模型（LLM）的有效对抗性提示。现有黑盒越狱方法要么依赖样本级启发式搜索，要么通过积累策略池或方法库来利用攻击经验，但缺乏对攻击经验的系统组织和管理。Mem
Fighting Fire with Fire: Continuous Attack for Adversarial Android Malware Detection.
本文提出了一种名为“Fighting Fire with Fire”的连续攻击方法，用于对抗Android恶意软件检测系统。研究背景是当前Android恶意软件检测模型容易受到对抗样本攻击，而现有的防御方法往往被动且效果有限。核心问题是如何
It's Not What It Looks Like: Manipulating Perceptual Hashing based Applications.
本论文研究了感知哈希（Perceptual Hashing）算法的安全性，重点关注其在实际应用（如版权检测、内容审核）中的脆弱性。作者提出了一种针对感知哈希的对抗性攻击方法，能够操纵图像使得其感知哈希值在攻击者控制下发生变化，而视觉效果保持
When Interpretability Becomes a Liability: Adversarial Attacks on CBM Concept Layers
概念瓶颈模型（CBM）是可解释机器学习的重要方法，通过显式的概念激活提供人类可理解的中间表示。然而，这种可解释性引入了一个此前未被探索的攻击面：概念瓶颈层本身。本文首次系统性地研究了CBM在概念层面的对抗性脆弱性，发现针对输入像素的微小、定
Sample-wise Targeted Adversarial Attacks on Test-time Adaptation
本文研究了测试时自适应（Test-time Adaptation, TTA）场景下的一种新型对抗攻击。TTA通过利用无标签测试流来应对分布漂移，但这也为对手提供了可乘之机。现有的类级别定向攻击在TTA中不够隐蔽：由于TTA批量处理，迫使部分
Adversarial Trust Poisoning in Vehicular Collaborative Perception
该论文研究了协作感知（CP）系统中的信任机制安全性。协同感知允许联网自动驾驶车辆共享传感器数据并联合推理环境，现有的防御机制通过跨车辆不一致性检测和信任估计来惩罚与多数观察冲突的车辆。然而，本文指出这类防御本身引入了新的攻击面。作者提出Tr
Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
多模态大语言模型（MLLMs）尽管性能强大，但仍易受基于迁移的目标攻击：攻击者在开源代理编码器上优化扰动，该扰动可泛化至闭源MLLMs。提升对抗迁移性的关键在于有效捕获不同模型共享的内在视觉焦点，使扰动对齐可迁移的语义线索而非代理特定行为。
StyleFool: Fooling Video Classification Systems via Style Transfer.
本文提出了一种名为 StyleFool 的黑盒视频对抗攻击方法，利用风格迁移技术欺骗视频分类系统。当前的黑盒攻击通常需要大量查询才能成功，导致计算开销巨大；而限制扰动的攻击易被去噪或对抗训练等防御手段抵御。StyleFool 采用无限制扰动
MoCo-EA: Exploiting Adversarial Mode Connectivity for Efficient Evolutionary Attacks
本文提出了一种基于模式连通性（Mode Connectivity）的高效进化攻击方法 MoCo-EA，旨在解决传统进化算法在生成对抗样本时因离散交叉操作破坏对抗属性而导致效率低下的问题。核心创新在于将传统进化算法中的交叉算子替换为基于贝塞尔
When Efficiency Backfires: Cascading LLMs Trigger Cascade Failure under Adversarial Attack
该研究首次系统性地揭示了大型语言模型（LLM）级联系统在对抗性攻击下的脆弱性。LLM级联系统通过轻量级模型处理常规查询，仅将复杂请求转发给更强大的模型，旨在平衡效率与性能、降低计算成本和延迟。然而，这种级联设计引入了新的攻击面：前端轻量模型
MetaBackdoor: Exploiting Positional Encoding as a Backdoor Attack Surface in LLMs
该论文提出了一种新型后门攻击方法 MetaBackdoor，利用 Transformer 架构中位置编码 (Positional Encoding) 的内在特性作为触发器，而不需要修改输入文本内容。现有的后门攻击大多依赖内容触发器（如特定词
The Great Pretender: A Stochasticity Problem in LLM Jailbreak
该论文揭示了当前大型语言模型（LLM）越狱攻击评估中的关键问题：攻击成功率（ASR）作为主要基准指标存在不稳定性。作者观察到，即使一篇顶级论文（如来自Anthropic的BoN或Microsoft Research的Crescendo）宣称
Phantom Force: Injecting Adversarial Tactile Perceptions into Embodied Intelligence via EMI
该论文首次揭示了具身智能机器人触觉传感器面临的安全威胁。研究团队聚焦于霍尔效应指尖传感器，发现其易受故意电磁干扰（EMI）攻击。通过注入特定电磁信号，攻击者可以诱导出显著的“幻影力”，使感知的力大小放大超过9倍，力方向偏差达到65度。这种攻
Magmaw: Modality-Agnostic Adversarial Attacks on Machine Learning-Based Wireless Communication Systems.
本文提出了一种名为Magmaw的新型无线攻击方法，旨在针对基于机器学习（ML）的无线通信系统生成通用对抗扰动。现有针对ML无线系统的对抗攻击方法缺乏对源数据多模态性、常见物理层协议和无线域约束的全面考虑。Magmaw能够为通过无线信道传输的
Still Camouflage, Moving Illusion: View-Induced Trajectory Manipulation in Autonomous Driving
本文提出了一种针对基于视觉的自动驾驶系统的新型物理对抗攻击范式。现有物理攻击通常需要复杂的补丁或动态变化的图案，以在不同的视角下保持欺骗效果，而本文反其道而行之，将视角变化本身转化为攻击工具。攻击者只需在目标车辆上安装一个静态的、被动的对抗
Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection
该论文提出了一种针对基于大语言模型（LLM）的智能体系统的新型攻击范式，称为 Mobius Injection，可引发基于智能体的面向服务的分布式拒绝服务（AbO-DDoS）攻击。作者发现智能体逻辑中存在的结构漏洞“语义闭合”（Semant
Sparse Tokens Suffice: Jailbreaking Audio Language Models via Token-Aware Gradient Optimization
本文针对音频语言模型（ALM）的越狱攻击展开研究。现有的越狱攻击通常在整个音频波形上密集地优化扰动，以诱使ALM生成不安全的内容。作者首先通过分析ALM中token对齐梯度的结构，发现梯度能量在音频token上高度不均匀，即只有少量toke