UniID: Spoofing Face Authentication System by Universal Identity.
人脸认证系统广泛应用于门禁等安全场景，但已有研究证明其易受对抗性攻击。然而，现有攻击通常要求攻击者在每次认证时佩戴眼镜或帽子等伪装，易引起怀疑且攻击效果有限。本文提出UniID攻击，允许内鬼通过佩戴对抗性补丁注册一个“通用身份”到人脸认证数
#adversarial attack
共收录 16 条相关情报。
← 返回所有主题ISPCloak: Weaponizing ISP for Optimization-Free Physical Camouflage against Deepfake Detectors
本文揭示了当前深度伪造检测器的一个根本盲点：现有检测器擅长捕获数字合成伪影，但当AI生成的内容被伪装成具有真实物理成像特征时，其有效性会大幅下降。作者指出，真实照片固有硬件相关的统计签名，这些签名由光学传感器和图像信号处理（ISP）流水线印
Attacking Graph Foundation Models Through Their Shared Representation
该论文首次系统性地研究了图基础模型（Graph Foundation Models, GFMs）中“对齐层”（alignment layer）这一独特攻击面。图基础模型通过将不同领域的图输入映射到一个共享表示空间，然后进行任务推理，这一映射
Between Safe Boundaries: Exploiting Temporal Consistency for Jailbreaking Text-To-Video Generation Models
本文针对文本到视频（T2V）生成模型的越狱攻击问题展开研究。现有越狱方法多从文本到图像攻击迁移而来，但未能充分利用视频生成固有的时间一致性特性，且需要大量视频查询优化，不适用于实际黑盒场景，其对抗性提示搜索也依赖启发式局部信号，缺乏结构化探
Banshee: Target Switch Attacks on Gimbal-Stabilized Visual Tracking Systems via Acoustic Injection
该论文提出了 Banshee，一种针对无人机（UAV）中基于云台稳定视觉跟踪系统的物理可实现攻击方法，通过声学注入诱导目标切换。现有研究表明声学信号可以干扰云台内部工作，但尚未充分探索对实际应用（如无人机跟踪与跟随）的影响。Banshee
POPS: Recovering Unlearned Multi-Modality Knowledge in MLLMs with Prompt-Optimized Parameter Shaking
该研究针对多模态大语言模型（MLLM）中的机器遗忘（Machine Unlearning）机制的安全性提出质疑。MLLM在训练时可能无意中编码了隐私敏感数据，因此多模态机器遗忘（MMU）被用于强制模型遗忘这些信息。但作者发现，当模型公开后，
Toward Trustworthy AI: Multi-Target Adversarial Attacks and Robust Defenses for Continuous Data Summarization
本论文聚焦于可信AI中数据摘要环节的对抗鲁棒性问题。数据摘要作为上游组件，决定哪些信息被保留并传递给下游学习或决策模块，因此针对摘要过程的对抗扰动可能以“上游”方式破坏可信AI：它们可能改变选定的摘要、降低其代表性，并进一步损害后续学习任务
Adv-TGD: Adversarial Text-Guided Diffusion for Face Recognition Impersonation Attacks
本文提出了一种名为 Adv-TGD 的生成式对抗攻击框架，用于对人脸识别系统实施身份冒充攻击。该框架基于 Stable Diffusion，通过对每个源-目标身份对进行轻量级 LoRA 微调，生成逼真的人脸图像，能够欺骗主流人脸识别模型。与
AI Model Extraction Attacks: Bypassing Single-Client Assumptions in Defenses
该论文针对AI模型提取攻击（MEA）中防御策略普遍依赖的“单客户端假设”（Single Client Assumption, SCA）进行了系统性批判。SCA隐含假设攻击源自单一孤立身份，但论文指出，在高级持续性威胁（APT）等协同攻击者面
Refusal Before Decoding: Detecting and Exploiting Refusal Signals in Intermediate LLM Activations
本文研究了大语言模型（LLM）在解码前中间激活层中拒绝行为（refusal）的可预测性。作者通过在每个Transformer块的残差流激活上训练线性探针（linear probes），发现拒绝行为在最终层之前即可被线性解码，表明安全相关行为
Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges
本文针对LLM作为评判者（LLM-as-a-judge）模式中存在的文体偏见问题，提出了一种名为BITE（BIas exploraTion and Exploitation）的黑盒对抗攻击框架。研究背景是：LLM评判器在评估文本时，会表现出
New Wide-Net-Casting Jailbreak Attacks Risk Large Models
该论文旨在探索一种被忽视的越狱攻击场景——宽网投射（wide-net-casting），即攻击者并非只针对单个大语言模型，而是同时查询一组模型来诱导有害输出。作者指出，现有越狱研究大多聚焦于单模型场景，而实践中攻击者往往能并行访问多个模型（
Watermarks Attack Watermarks: Re-Watermarking as a Generic Removal Strategy
本文提出了一种新颖且通用的数字水印移除攻击方法。核心观察是：攻击水印的过程本质上与水印嵌入过程相似——两者都在寻找对图像不可察觉的修改以触发特定检测器。基于此类比，作者假设可以用水印去攻击水印，即对已加水印的图像再次施加另一个水印（称为重水
Fuzz-Testing Meets LLM-Based Agents: An Automated and Efficient Framework for Jailbreaking Text-to-Image Generation Models.
本文提出 JailFuzzer，一种基于大语言模型（LLM）代理的自动化模糊测试框架，用于黑盒环境下对文本到图像（T2I）生成模型进行越狱攻击。现有越狱方法存在访问需求不切实际、提示语不自然易被检测、搜索空间受限以及查询开销高等问题。Jai
FlyTrap: Physical Distance-Pulling Attack Towards Camera-based Autonomous Target Tracking Systems.
本文提出了一种针对基于摄像头的自主目标跟踪系统（如无人机、机器人等）的新型物理攻击方法——FlyTrap。该类系统通常依赖视觉目标跟踪算法（如SiamRPN、DiMP等）来锁定并跟随目标。攻击者通过精心设计物理世界中的对抗性图案（例如在衣服
Targeted Physical Evasion Attacks in the Near-Infrared Domain.
本文提出了一种针对近红外域的新型物理规避攻击方法。现有红外攻击大多只能实现非定向攻击，且受限于位置、形状等因素需要大量优化。作者通过将红外扰动预先打印在透明胶片上，然后使用商用红外手电筒投射到目标物体（如交通标志）表面，首次实现了低成本、隐