Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models
该论文研究了视觉-语言-动作（VLA）模型在机器人部署中的能力与鲁棒性之间的理论权衡。VLA模型在干净输入上表现出高成功率（如OpenVLA-7B在LIBERO基准上超过95%），但在微小对抗扰动下性能急剧下降（例如16/255的PGD攻击
#robustness
共收录 52 条相关情报。
← 返回所有主题Uncertainty-Aware 3D Position Refinement for Multi-UAV Systems
本文针对多无人机系统在GNSS信号退化、多路径效应、非视距接收、垂直漂移及有意干扰等复杂环境下，实时三维定位可靠性下降的问题，提出了一种去中心化、轻量级的3D位置精化层。该方法通过融合每架无人机自身的局部估计、邻居共享的状态摘要以及无人机间
Splitting the Difference on Adversarial Training.
本文提出了一种新颖的对抗训练方法，称为“分裂差异”（Splitting the Difference）。标准的对抗训练通常在提升模型鲁棒性的同时牺牲自然准确率，且试图为每个类别学习一个统一的决策边界来同时覆盖干净样本和对抗样本。作者反其道而
"Training robust watermarking model may hurt authentication!'' Exploring and Mitigating the Identity Leakage in Robust Watermarking
该论文关注鲁棒图像水印中的身份泄露问题。随着生成式AI发展，图像水印用于版权保护和所有权验证，但现有鲁棒水印方法易受两种攻击：对抗攻击（修改水印图像使解码失败）和身份泄露攻击（伪造水印图像）。作者发现，无论是经验鲁棒还是认证鲁棒的现有方法，
RoFL: Robustness of Secure Federated Learning.
联邦学习（FL）面临诸多安全攻击，但学界对其根本原因及有效防御缺乏整体理解。本文系统剖析了现有定向攻击的内部机制，揭示了攻击可行的原因在于：机器学习算法对尾部数据的记忆需求对FL完整性产生重大影响——这一现象此前主要被研究为隐私问题，本文首
SoK: Robustness in Large Language Models against Jailbreak Attacks
本文是一篇系统化知识综述（SoK），聚焦于大语言模型（LLM）针对越狱攻击的鲁棒性问题。越狱攻击通过精心构造的对抗提示，诱使模型生成有害、不道德或违反政策的输出，对高安全性应用中的信任、合规和安全构成实际威胁。现有评估实践通常仅依赖攻击成功
MIMIR: Masked Image Modeling for Mutual Information-based Adversarial Robustness.
本文针对视觉 Transformer（ViT）在对抗攻击下的脆弱性展开系统研究。ViT 已成为现代视觉-语言模型的基础架构，但其对抗鲁棒性不足，需要专门的对抗训练（AT）策略。作者首先指出现有最先进的 AT 方法（如 Generalist
Character-Level Perturbations Disrupt LLM Watermarks.
本文研究字符级扰动对大型语言模型（LLM）水印技术的破坏效果。水印技术被广泛用于追踪LLM生成内容，防止滥用。作者系统分析了多种字符级扰动（如拼写错误、同音替换、随机插入等）对当前主流水印方案（如基于n-gram的Aaronson水印、基于
Robust Fraud Transaction Detection: A Two-Player Game Approach.
该论文针对金融交易中的欺诈检测问题，提出了一种基于双人博弈的鲁棒检测框架。传统欺诈检测模型通常面临对抗性样本攻击和概念漂移的挑战，导致检测性能下降。作者将欺诈检测建模为检测器与攻击者之间的动态博弈过程：检测器试图识别欺诈交易，而攻击者不断调
Unshaken by Weak Embedding: Robust Probabilistic Watermarking for Dataset Copyright Protection.
该论文针对数据集版权保护中水印信号弱、注入率低及对抗攻击下的鲁棒性问题，提出了一种名为DIP的概率水印注入与双重验证框架。核心方法包括三部分：1) 分布感知样本选择：从数据集中均匀选择N个训练样本用于水印注入，从而保持原始数据分布；2) 概
"Is your explanation stable?": A Robustness Evaluation Framework for Feature Attribution.
本文针对特征归因（Feature Attribution）解释方法的鲁棒性评估问题展开研究。特征归因是解释机器学习模型预测结果的一种常见技术，通过为输入特征分配重要性分数来指示其对模型输出的贡献。然而，现有研究指出，这些解释可能对输入中的微
Mitigating Error Amplification in Fast Adversarial Training
本文针对快速对抗训练（FAT）中存在的两个核心问题展开研究：（1）灾难性过拟合（CO），即模型过度拟合训练时使用的对抗样本，导致对未见攻击泛化能力差；（2）鲁棒性与准确率之间的权衡，即在提高鲁棒性的同时往往导致干净样本上的性能显著下降，且随