RAPID: A Real-Time Defense Against Unauthorized Model Distillation for Text-to-Image Services
本文研究的是文生图（Text-to-Image, T2I）服务面临的一类知识产权窃取风险：黑盒输出蒸馏（black-box output-based distillation）。攻击者无需接触模型权重，只需反复调用在线服务、收集大量「提示词
#adversarial-defense
共收录 24 条相关情报。
← 返回所有主题Do Input-Level Defenses Transfer to Observation-Level Attacks on VideoLLMs?
本文研究视频大语言模型（VideoLLMs）在安全攸关场景（如内容审核、视频分析）中面临的观察级攻击（observation-level attacks）防御问题。VideoLLMs 为高效处理长视频，通常依赖帧采样、令牌压缩和模态融合等组
HoneyRoute: Honeypot-Model Routing for Adversarial LLM Serving
本文提出了一种名为 HoneyRoute 的推理服务层，用于在面向对抗性的大语言模型（LLM）服务中检测恶意请求并将其路由到专用蜜罐模型，从而保护生产模型，同时持续收集攻击者交互并转化为情报。现有防御通常将陷阱嵌入模型内存或在协议层重建欺骗
SEAL: Reinforcing Global Safety in Mixture-of-Experts through Shared Expert ALignment
MoE（混合专家）是为扩展大语言模型而设计的架构，每个token仅激活少量专家模块，从而在计算量基本不变的情况下支持大规模参数增长。近年来的混合架构还引入共享专家以捕获有用的通用特征，进一步提升稳定性与泛化能力。MoE已被许多旗舰开源和商业
FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs
本文针对联邦学习（Federated Learning, FL）中大型语言模型（LLM）面临的恶意客户端投毒攻击问题，提出了一种轻量级、服务器端的防御框架 FedLNS（Federated Learning with Normalizati
DSPrompt: Dynamic Soft Prompt Defense Against M-RAG Corruption
多模态检索增强生成（M-RAG）系统正面临一类对抗性攻击：攻击者精心构造恶意数据，使其嵌入向量在向量空间中与良性条目对齐，从而欺骗检索器、诱导模型产生有害输出。现有防御大多在查询阶段运行，依赖辅助检测器、相似度重排序或特征一致性校验，但存在
FaceObfuscator: Defending Deep Learning-based Privacy Attacks with Gradient Descent-resistant Features in Face Recognition.
本文提出了一种名为 FaceObfuscator 的新型人脸图像混淆方法，旨在防御基于深度学习的隐私攻击。随着人脸识别技术被广泛应用于身份认证和公共安全，人脸图像中包含的丰富生物特征也面临着被恶意模型窃取的风险。现有的人脸脱敏方法通常依靠像
No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
该论文针对开放权重大模型面临的白盒神经元级安全攻击问题，提出了一种分布式安全对齐（Distributed Safety Alignment, DSA）方法。研究背景是：随着开放权重模型快速发布，安全威胁已从黑盒越狱转向神经元级白盒攻击——攻
InkShield: Writing Style Protection Against Unauthorized Handwriting Mimicry
本文提出了一种名为 InkShield 的主动式书写风格防御方法，旨在防止未经授权的手写体模仿攻击。近年来，手写文本生成器能够根据公开可获取的参考样本复制特定作者的书写风格，这可能导致文档伪造和身份盗用等风险。例如，攻击者可利用公开的手写笔
Recover, Decode, Reguard: Guard-Agnostic Defense Amplification againstEncoded VLM Jailbreaks
该论文针对视觉语言模型（VLM）的安全防御问题，指出现有安全分类器（guard）作为主要黑盒防御手段，仅审查输入的表面形式而忽略其语义，导致恶意请求可以通过集合论、形式逻辑、罕见语言、代码或文本图像等编码方式绕过guard，形成“解码差距”
PANDORA: Lightweight Adversarial Defense for Edge IoT using Uncertainty-Aware Metric Learning.
物联网设备的快速普及带来了资源受限和安全漏洞增多的挑战，传统基于静态签名或规则匹配的入侵检测系统已难以应对现代、自动化且新颖的零日攻击。现有的机器学习IDS模型在面对概念漂移和未知威胁时泛化能力不足。针对上述问题，本文提出PANDORA（P
Development of Vision-Language Model-based GNSS Spoofing Detection for Autonomous Vehicle Navigation
该论文针对自动驾驶汽车（AV）依赖全球导航卫星系统（GNSS）进行定位和导航，易受欺骗攻击（如轨迹重定向、急停等）的问题，提出了首个基于视觉-语言模型（VLM）的GNSS欺骗检测框架。方法创新地融合了前置摄像头视觉数据与车载传感器读数（速度
GLST: Defending Confidence-Driven V2X Collaborative Perception Against Stealthy Multi-Attacker Feature Injection
本文研究了车联网（V2X）协同感知中的安全漏洞。协同感知通过连接车辆交换中间特征来提高自动驾驶感知能力，其中置信度驱动的稀疏通信仅传输感知关键的空间区域以降低带宽。然而，一旦协作方被攻陷，攻击者可以在高置信度或自车不确定区域注入恶意特征，这
Efficient Safety Alignment of Language Models via Latent Personality Traits
大语言模型（LLM）的安全对齐方法容易受到对抗性攻击的威胁，现有的防御手段如隐对抗训练（LAT）虽然有效，但需要大量有害提示数据，且可能损害模型效用。本研究提出了一种名为隐人格对齐（Latent Personality Alignment,
What Was That Again? Certified Robustness for Automatic Speech Recognition
自动语音识别（ASR）系统对对抗性和良性扰动高度敏感，但现有检测方法因缺乏真实转录的先验知识而难以在部署系统中实施。本文提出一种基于认证思想的鲁棒性增强方法，通过双门控诊断管道提升系统可靠性。该管道包含两个核心模块：一是“两侧原子审计”，通
What Does It Mean to Break a Distillation Defense?
本文针对黑盒大语言模型（LLM）的蒸馏攻击防御问题展开研究。蒸馏攻击指攻击者通过查询API接口获取教师模型输出，并训练学生模型来复制其能力。近期研究提出输出扰动防御方法，通过修改教师模型输出降低学生模型性能，同时保持对合法用户的可用性。然而
SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection
论文 SPARD 针对大型语言模型在微调过程中安全对齐被破坏的问题，尤其是有害微调攻击（通过对抗性数据移除安全防护并引发不安全行为），提出了一种防御框架。该框架包含两个核心组件：1）安全投影交替优化（SPAG），在效用更新与显式安全投影之间
When Interpretability Becomes a Liability: Adversarial Attacks on CBM Concept Layers
概念瓶颈模型（CBM）是可解释机器学习的重要方法，通过显式的概念激活提供人类可理解的中间表示。然而，这种可解释性引入了一个此前未被探索的攻击面：概念瓶颈层本身。本文首次系统性地研究了CBM在概念层面的对抗性脆弱性，发现针对输入像素的微小、定
RADAR: Defending RAG Dynamically against Retrieval Corruption
该论文针对检索增强生成（RAG）系统在动态网络搜索场景中易受对抗性攻击的问题，提出了一种名为RADAR的动态防御框架。现有静态防御方法难以应对不断演变的攻击模式，且在动态环境中存储成本过高。RADAR将可靠的上下文选择建模为基于图的能量最小
BiRD: A Bidirectional Ranking Defense Mechanism for Retrieval Augmented Generation
本文针对检索增强生成（RAG）系统面临的安全威胁，提出了一种名为BiRD（双向排序防御机制）的新型防御方法。研究首先识别了现有防御手段（如基于语义分析或投票机制）的核心局限性：它们仅关注语义内容相关性，而忽略了由排序结构定义的检索上下文。通