Exploiting Vulnerabilities: Universal Adversarial Attacks on Vision-Language-Action Models in Robotics
该论文关注具身智能场景下视觉-语言-动作（Vision-Language-Action, VLA）模型的安全性。VLA 模型将视觉感知、语言指令理解与动作生成统一到端到端学习框架中，使机器人能够根据自然语言指令直接完成抓取、摆放等操作任务，
#adversarial-attack
共收录 87 条相关情报。
← 返回所有主题Can We Use Arbitrary Objects to Attack LiDAR Perception in Autonomous Driving?
该论文研究自动驾驶系统中 LiDAR 感知面临的对抗性攻击问题。LiDAR 感知依赖深度神经网络，而 DNN 已被证明易受对抗样本影响。已有针对 LiDAR 的攻击在真实场景中普遍存在可行性、灵活性和隐蔽性不足。作者提出一种新型攻击框架，攻
Semantic Watermarking with Order-Robust Detection over Sub-sentence Units
本文研究大语言模型（LLM）生成文本的语义水印技术及其鲁棒性。现有语义水印将标记绑定到句子语义而非具体词元选择，理论上能抵抗改写等保留内容的编辑。但攻击者提供给检测器的文本可能经过改写、重排序或重新分段，这些操作都会导致嵌入位移——检测时使
Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models
本文提出了一种名为元自适应多模态越狱（Meta-Adaptive Multimodal Jailbreaking, MAMJ）的新型攻击方法，用于系统性评估大型视觉语言模型（VLM）的安全性。现有越狱攻击在元层面大多是静态的：基于模板的方法
Vulnerable Code Search: Transferable Attack for Code Language Models
本文研究神经代码语言模型（CLM）在代码检索任务中的脆弱性，提出一种与编程语言无关、可迁移的对抗攻击方法。现有代码搜索引擎依赖CLM将自然语言查询与代码片段映射到同一向量空间，但这类模型容易被针对非功能性文本元素的对抗扰动所欺骗。作者的核心
Defending Network Intrusion Detection Systems Based on Graph Neural Networks Against Structural Adversarial Attacks
本文针对基于图神经网络（GNN）的网络入侵检测系统（NIDS）在面临结构性对抗攻击时的鲁棒性问题展开研究。GNN 能够同时利用网络流特征和拓扑模式，因此被视为一种有前景的 ML-NIDS 解决方案。尽管 GNN 分类器相比其他机器学习检测器
Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems
该论文系统研究了基于大语言模型（LLM）的多智能体交易系统中的对抗性漏洞。这类系统由多个专业智能体通过结构化通信协作生成交易决策，正从研究原型快速走向控制真实资产的实时部署。然而，智能体间的通信在提升效率的同时也引入了攻击面：一个被污染的信
Hiding Directions, Leaking Structure: Breaking ArrowCloak through Low-Rank Structure
本文研究 TEE 屏蔽推理场景下的权重保护机制安全性。TEE 屏蔽推理将敏感状态（如模型权重）保存在可信执行环境中，而将线性代数计算卸载到不受信任的加速器上。此前 Wang 等人（USENIX Security 2025）提出 ArrowC
SegPAR: Class-Centric Decision-Based Sparse Attack for Semantic Segmentation
本文聚焦于语义分割任务中的决策黑盒稀疏攻击问题。尽管稀疏决策黑盒攻击在分类领域已有研究，但在语义分割中尚缺乏系统性探索。作者首先将分类域中最具代表性的决策黑盒稀疏攻击方法改编至语义分割场景，构建了该未充分研究区域的基准测试。通过基准分析，发
When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse
本文针对检索增强生成（RAG）系统面临的投毒攻击威胁，提出了一种基于文档级注意力坍缩（Attention Collapse）的检测方法。RAG通过注入外部文档来增强大语言模型的生成能力，但攻击者可能注入对抗性文档以操纵模型输出。现有检测方法
Towards a Risk Assessment of Malicious Skill Files in Coding Agents
本文研究自主编码代理（coding agents）在企业软件工作流中集成时引入的新型安全风险：代理技能（agent skills）接口。该接口以文件夹形式包含指令与脚本，代理动态加载以专用化自身行为，但也扩大了攻击面，使恶意shell命令可
A Survey of Adversarial Efficiency Degradation for Vision Transformer by Exploiting Input-adaptive Optimization
本文对视觉 Transformer（ViT）在输入自适应推理机制下的对抗性效率下降攻击进行了系统综述。近年来，ViT 为满足能源与延迟约束，广泛采用 token 剪枝、提前停止等输入自适应技术，但这些优化同时引入了新的攻击面。攻击者可通过精
Season: Spectrum-Aware Orthogonal Gradient Refinement for Transfer-Based Adversarial Attacks
本文提出一种名为 Season 的频谱感知正交梯度细化框架，用于提升基于迁移的对抗样本攻击在异构模型间的迁移性。研究背景是：卷积神经网络（CNN）偏向于利用局部纹理特征，而视觉Transformer（ViT）依赖全局形状特征，导致在CNN上
Multi-Instance Adversarial Attack on GNN-Based Malicious Domain Detection.
该论文研究基于图神经网络（GNN）的恶意域名检测（MDD）系统面临的新型对抗攻击问题。GNN-based MDD 利用公开的 DNS 日志构建域名恶意图（DMG），将互联网域名表示为图中的节点，并通过已标注的恶意节点推断其他节点的恶意性。然
The Boy Who Cried Wolf: Adversarial Misclassification of Safe Inputs as Unsafe in Multimodal Guardrails
该论文首次系统性地研究了多模态安全护栏模型（multimodal guard models）中的一种新型对抗威胁——“不安全诱导攻击”（Unsafe Induction Attacks）。与以往关注越狱攻击（产生假阴性，即放行恶意内容）不同
AttackGNN: Red-Teaming GNNs in Hardware Security Using Reinforcement Learning.
本文提出 AttackGNN，这是首个针对硬件安全领域基于图神经网络（GNN）技术的红队攻击框架。近年来，GNN 被广泛用于集成电路硬件安全任务，如检测知识产权盗版、硬件木马检测与定位、电路逆向工程和硬件混淆等，并取得了很高的准确率。然而，
Misleading Deep-Fake Detection with GAN Fingerprints.
生成对抗网络（GAN）在合成逼真图像方面取得了显著进展，甚至能够欺骗人类观察者。为应对深度伪造带来的安全风险，已有多种检测方法通过识别生成过程中残留的图像伪影来区分真实与合成内容。然而，已有反攻击研究揭示了这些检测方法的局限性，但多数反攻击
A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks
本文针对大型语言模型（LLM）在多轮交互中面临的对抗性攻击持续演化问题，指出现有防御方法本质上是反应式的，难以应对攻击者在多轮对话中不断调整策略的复杂威胁。为此，作者提出了一种主动防御框架 CoopGuard，旨在通过跨多轮交互的干扰、误导
Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
本文针对大语言模型的自检查防御机制提出了一种组合攻击方法。自检查防御要求目标模型在回答前先评估请求是否具有攻击性，其中SAGE被报告具有平均99%的防御成功率。作者发现，将两种已知攻击——代码补全编码和最佳N搜索——组合起来，可以突破SAG