Evaluating the Robustness of a Production Malware Detection System to Transferable Adversarial Attacks.
本文研究的是生产环境中的恶意软件检测系统在面对可迁移对抗性攻击时的鲁棒性。随着深度学习模型被广泛集成到大型生产系统中，其个体缺陷可能被利用，进而引发系统层面的安全漏洞。作者以 Gmail 的恶意软件检测流水线为案例，该流水线依赖一个名为 M
#robustness
共收录 52 条相关情报。
← 返回所有主题Alignment Is Local: A Paired Diagnostic for GUI Agents under User-Side Persuasion
本文研究GUI智能体（如移动设备上的自主操作代理）在真实部署中的对齐（alignment）鲁棒性问题。作者指出，当前主流的轻量级防御手段——提示词级对齐（prompt-level alignment）——是一种“局部现象”：它仅在狭窄的评估
Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
本文针对现代基于大模型的多模态内容审核系统展开鲁棒性研究。传统内容审核分类器通常依赖任务特定模型，策略覆盖有限且缺乏上下文理解；而新近商业化的多模态审核 API 基于大型基础模型，宣称能提供更广泛、更强大的安全过滤能力。研究团队对三家成熟商
PatchCleanser: Certifiably Robust Defense against Adversarial Patches for Any Image Classifier.
该论文提出了一种名为 PatchCleanser 的认证鲁棒防御方法，旨在抵御针对图像分类模型的对抗性补丁攻击。对抗性补丁攻击通过在输入图像的受限区域内注入精心设计的像素（即补丁），导致模型误分类。这种攻击可在物理世界中通过打印并粘贴补丁到
Not All Edges are Equally Robust: Evaluating the Robustness of Ranking-Based Federated Learning.
本文研究联邦排名学习（Federated Ranking Learning, FRL）的鲁棒性。FRL 是一种新兴的联邦学习范式，与传统联邦学习有两个关键区别：1）客户端传递离散排名而非梯度更新，大幅降低通信成本并限制恶意更新空间；2）服务
Reasoning as a Double-Edged Sword: Architecture and Cross-Stage Robustness in Vision-Language-Action Models
本研究探讨了在视觉-语言-动作（VLA）模型中添加推理步骤对模型鲁棒性的影响。直觉上，先推理后行动的策略应能更好地吸收输入扰动，但本文通过实验验证了这一假设。作者选取了三种代表不同推理水平的模型：无推理、文本链式推理（CoT）以及潜在迭代循
Synchronization-Free Algebraic Fingerprints for Large Language Models: From Autoregressive to Diffusion Models
本论文提出了一种针对大型语言模型（LLM）的新型免同步水印方案，可同时应用于自回归模型和扩散模型。方案的核心创新在于每个水印由单个二元同余构成，该同余由相邻的两个token生成。具体地，对于每对相邻token，通过密码学哈希确定一个里德-所
Traffic-Aware Randomized Smoothing for LLM-Based Network Intrusion Detection
该论文针对基于大语言模型（LLM）的网络入侵检测系统（IDS）在对抗性流量操控下的鲁棒性问题，提出了一种名为“流量感知随机平滑”（Traffic-Aware Randomized Smoothing, TA-RS）的分类器无关认证防御方法。
DorPatch: Distributed and Occlusion-Robust Adversarial Patch to Evade Certifiable Defenses.
本文提出了一种名为DorPatch的分布式且对遮挡鲁棒的对抗性补丁攻击，旨在逃避可证明的鲁棒防御和实证防御。与传统的单个补丁攻击不同，DorPatch通过将补丁分散到多个位置（使用group lasso正则化）并引入图像丢弃、密度正则化和结
RaMark: Radioactive Watermarking for Generated Tabular Data
该论文针对生成式表格数据的水印技术面临的重训练攻击问题，提出了一种具有放射性的水印方法RaMark。现有水印方法在攻击者利用带水印数据集重新训练生成模型后，生成的高效用数据会丢失水印，导致所有权验证失效。RaMark通过将正弦依赖性作为数据
Controllability-Aware Adversarial Examples Against LLM-Based Network Traffic Classifiers
本文研究大型语言模型（LLM）作为网络入侵检测分类器时的对抗鲁棒性，重点关注现实攻击者约束下的脆弱性。作者提出了一种可控制性感知的黑盒迁移攻击框架，针对基于LLM的网络流量分类器。该框架根据网络通信语义将流特征划分为直接可控（DC）、间接可
Privacy-Preserving Robustness Verification for Neural Networks
该论文提出SecureCROWN，首个用于隐私保护神经网络鲁棒性验证的框架。神经网络验证与数据隐私存在固有矛盾：验证需要完全访问模型参数和输入数据，但这受到隐私法规和知识产权限制。SecureCROWN基于安全两方计算（2PC），使模型所有
CORE-BREW: LLR-Based Soft Decoding for Robust Multi-Bit LLM Watermarking
本文针对大型语言模型（LLM）输出的多比特水印鲁棒性问题，提出一种基于对数似然比（LLR）的软判决解码方法CORE-BREW。现有基于纠错码（ECC）的LLM水印多采用硬判决解码，丢弃了令牌级别的可靠性信息，导致在编辑攻击（如词汇替换、改写
Towards Robust Personalized Federated Learning: Vulnerability Assessment and Defense Co-Design
随着物联网设备的普及，分布式边缘系统开始大规模收集敏感数据，为设备端机器学习提供了应用场景。联邦学习（FL）通过仅传输模型参数而不交换原始数据，在一定程度上缓解了隐私泄露风险。然而，当前研究忽视了一个关键盲点：在个性化联邦学习（PFL）场景
The Scissors Effect: When Resize-Based Input Diversity Helps or Hurts Transfer Attacks
本文揭示了在基于迁移的对抗攻击中，输入多样性（Input Diversity, DI）这一常用技巧对攻击迁移性的影响存在非单调的“剪刀效应”。DI通过在每次攻击迭代中对输入图像进行随机缩放和填充来增强攻击的鲁棒性，通常被认为能普遍提高迁移成
What You See is Not What the Network Infers: Detecting Adversarial Examples Based on Semantic Contradiction.
该论文聚焦于深度神经网络（DNN）在安全关键领域（如自动驾驶）中面临的对抗性样本威胁。现有防御方法存在诸多局限：只能防御部分对抗性样本，或导致正常输入的高精度损失，且多数无法抵御自适应攻击（即攻击者了解防御机制后针对性构造的样本）。作者观察
CaFA: Cost-aware, Feasible Attacks With Database Constraints Against Neural Tabular Classifiers.
该论文提出了CaFA（Cost-aware Feasible Attacks）系统，旨在评估神经网络表格分类器在实际应用中对抗攻击的鲁棒性。表格数据具有结构化特征和复杂的相互关系，现有对抗攻击方法往往忽略攻击的可行性（即对抗样本在问题空间中
Beyond Waveform Robustness: Robust Feature-Vocoder Adversarial Attacks on Automatic Speech Recognition
本文针对自动语音识别（ASR）系统的对抗鲁棒性展开研究。现有对抗攻击直接在波形域添加噪声，存在两个主要局限：一是对黑盒ASR系统的迁移性差，二是易被专门防御波形扰动的机制缓解。为此，作者提出了一种基于代理模型的Clean-Reference
Testing LLM Arithmetic Reasoning Generalization with Automatic Numeric-Remapping Attacks
该论文研究了大型语言模型（LLM）在算术推理任务中对数值变化的鲁棒性问题。尽管LLM在基准测试中表现优异，但已有研究表明其对数值变化敏感：同一问题在不同数值下可能失败。现有方法多依赖模板或人工约束，局限性较大。为此，作者提出一种自动化的数值
BARBIE: Robust Backdoor Detection Based on Latent Separability.
本文提出了一种名为BARBIE的鲁棒后门检测方法，旨在解决深度学习模型共享中的安全风险。后门攻击会使模型在正常样本上表现正常，但在含有特定触发器的样本上产生恶意行为。现有检测方法利用良性模型与后门模型在潜在表示上的可分离性（latent s