Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks
该论文提出了一种针对大语言模型（LLM）的新型攻击范式——决策级劫持（Decision-Level Hijacking）。攻击者通过部署后仅翻转极少量权重比特（Bit-Flip Attack）的方式，在不触发违规内容或降低模型功能的前提下，
#adversarial-attack
共收录 87 条相关情报。
← 返回所有主题ALIBI: Adaptive Agentic Attacks on LLM-Based Vulnerability Detectors via Adversarial Code Comments
大型语言模型（LLM）越来越多地被用于安全敏感任务，如漏洞检测和代码审查。这篇论文发现了一个此前未被充分探索的攻击面：攻击者可以在源代码中插入对抗性注释，这些注释能够影响检测器的推理过程，而不改变程序的执行行为。作者将攻击者建模为一个编码代
False Prophets: On the Security of World Models in Agentic Systems
该论文聚焦于智能体系统中世界模型（world model）的安全性问题。世界模型是一种专门训练的环境模拟器，旨在帮助基于大语言模型的自主智能体预测其动作的后果，从而提升多步任务执行的准确性。然而，作者发现世界模型可能被攻击者操纵，导致智能体
Hear "No Evil", See "Kenansville"*: Efficient and Transferable Black-Box Attacks on Speech Recognition and Voice Identification Systems.
该论文提出了一种针对自动语音识别（ASR）和说话人识别（SV）系统的高效且可迁移的黑盒对抗攻击方法。作者指出，现有攻击往往需要大量查询或依赖白盒访问，实用性有限。他们提出了一种基于梯度估计的查询高效攻击，使用自然进化策略（NES）来近似模型
Poster: Adversarial Habituation Attack: A Psychological Extension and Re-framing of Boiling Frog Attack.
该论文提出了一种新颖的对抗性攻击方法——对抗性习惯化攻击（Adversarial Habituation Attack），将其视为对经典的“温水煮青蛙”攻击（Boiling Frog Attack）的心理学扩展和重构。传统对抗性攻击通常依赖
SIREN (Luring LLMs onto the Rocks): PAIR-Driven Preference Manipulation in Web-RAG Recommenders
本文研究了针对网络增强型大语言模型（LLM）推荐系统的对抗性排名操纵问题。当LLM通过检索和阅读实时网页来回答推荐查询时，它扮演了推荐系统的角色，每个检索到的页面都可能成为攻击面。现有工作主要关注虚构产品、检索投毒和排名提升，但未系统比较在
Adversarial Prompts for Acceptance Collapse in Speculative Decoding
推测解码是一种无损加速方案，通过草稿模型与目标模型之间的动态token级对齐实现推理加速。然而，这种语义等价的保证隐藏着严重的操作漏洞：草稿-目标对齐可被系统性攻击。本文提出ADSD，据我们所知，这是首个通过推动草稿概率质量朝向目标模型不太
Intelligent Disruption: Undetectable Attacks on Wireless Autoencoders
本论文针对无线自编码器通信系统中对抗攻击的不可检测性、攻击性和适应性难题，提出了一种基于深度学习的智能攻击框架。在存在多个攻击者的复杂场景下，多路并行攻击产生的累积泄漏干扰（CLI）会显著增加攻击被检测到的风险，同时动态环境使得固定攻击策略
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security
该论文提出一个针对LLM代理（agent）安全性的多轮自适应对抗攻击基准。现有安全评估通常使用固定的攻击池，在单轮或多轮场景下评估防御者，但忽略了攻击者能够根据防御者响应动态调整策略的能力。为此，作者构建了一个包含21个场景的基准，每个场景
Machine Against the RAG: Jamming Retrieval-Augmented Generation with Blocker Documents.
检索增强生成（RAG）系统通过从知识数据库中检索相关文档，并利用大型语言模型（LLM）处理这些文档来回答查询。本文发现，当RAG系统操作包含不可信内容的数据库时，容易受到一种称为“jamming”的拒绝服务攻击。攻击者可以向数据库中添加单个
Hijacking Large Audio-Language Models via Context-Agnostic and Imperceptible Auditory Prompt Injection.
本文揭示了一种针对大型音频-语言模型（LALMs）的新型安全威胁——听觉提示注入（auditory prompt injection）。与传统的文本提示注入不同，攻击者可以在连续的、高维度的音频信道中嵌入恶意指令，且这些指令在上下文无关和感
Weaponizing Reflectivity for Pointcloud Deception with Forged Invisible Geometries.
由于论文摘要信息缺失，无法提供详细的中文摘要。根据标题推测，该文可能研究利用点云反射率属性进行欺骗攻击，通过伪造不可见几何体误导基于点云的感知系统。但缺乏具体内容，无法确认。
UTS at ELOQUENT 2026 Voight-Kampff: structural shifts in AI writing bypass state-of-the-art detectors
本研究旨在探究哪些大语言模型（LLM）文本逃避攻击能够绕过当前最先进的对抗性微调检测器。作者发现，虽然对抗性微调可以轻易封堵2025年获胜的逃避方法，但检测器存在一个根本性的不对称漏洞：将生成文本推出检测器的训练分布（out-of-dist
When Local Monitors Miss Compositional Harm: Diagnosing Distributed Backdoors in Multi-Agent Systems
该论文研究多智能体LLM系统在运行时监控方面的安全漏洞。现有安全机制通常对每个智能体的消息、工具调用或步骤进行独立检查（局部监控），但作者发现这存在根本性缺陷：分布式后门攻击可以将有害负载拆分到多个智能体中，使得每个局部检查都通过，而组合后
Mechanistic Interpretability of LLM Jailbreaks via Internal Attribution Graphs
大型语言模型（LLM）尽管能力强大，但仍极易受到对抗性提示和越狱攻击。现有研究主要通过输入-输出行为或归因方法分析这些失败，对对抗性扰动如何改变模型内部推理机制的洞察有限，导致对不安全或错误行为背后的机制理解不足。本文提出了一种基于内部计算
DepthFake: Spoofing 3D Face Authentication with a 2D Photo.
本文针对基于结构光深度相机的3D人脸活体检测系统，发现了一种新的攻击面——DepthFake攻击。攻击者仅凭目标受害者的一张2D照片即可欺骗3D人脸认证系统。该方法首先从2D照片估计人脸3D深度信息，然后利用该深度信息生成精心设计的散斑图案
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法
Occluding the Solution Space: Planner-Agnostic Adversarial Attacks on Tolerance-Aware Manipulation
该论文针对机器人操作中的运动规划对抗攻击问题展开研究。现有攻击方法通常依赖精确位姿目标，并且需要持续查询规划器（planner-in-the-loop），这在实际中受限。为此，作者提出了一种与规划器无关（planner-agnostic）的
AutoDA: Automated Decision-based Iterative Adversarial Attacks.
该论文提出了一种名为AutoDA的自动化决策型迭代对抗攻击方法。决策型攻击是黑盒对抗攻击的一种重要形式，攻击者只能通过模型的最终决策标签（如分类结果）来生成对抗样本，而无法访问模型内部结构或置信度分数。传统决策型攻击需要手工设计攻击算法，如
Overloading Large Vision-Language Models for Jailbreaking
该论文提出了一种针对大型视觉语言模型（LVLM）的新型越狱攻击方法，名为信息过载（Information Overloading）。LVLM 在个人助理、文档分析、具身智能等场景广泛应用，但其双模态攻击面（视觉和文本）易受越狱攻击。现有攻击