Categorical Robustness Assessment for Machine Learning based Network Intrusion Detection Systems
本文系统性评估了机器学习驱动的网络入侵检测系统（NIDS）在面对对抗性攻击时的鲁棒性。尽管已有研究揭示了ML模型在特定场景下的脆弱性，但缺乏跨架构、跨攻击类别和攻击类型的系统比较，导致安全从业人员在选择模型时缺乏明确指导。作者选取了三种主流
#adversarial-robustness
共收录 55 条相关情报。
← 返回所有主题Superspace Concentration and Adversarial Robustness in Quantum Algorithms
本文提出并形式化了超空间浓度（superspace concentration）作为一种量子资源，并通过焦点度量 F(ρ) = λ_max(ρ_super)（即约化超空间态的最大特征值）来量化量子系统将信息权重集中到扩展自由度空间中某个优先
Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models
本文提出了一种基于计算压力的对抗鲁棒性评估框架，用于衡量大型语言模型（LLM）在对抗性攻击下的实际安全性。传统的评估方法通常以固定查询预算下的攻击成功率（ASR）作为指标，忽略了不同攻击策略在计算开销上的巨大差异（可能相差数个数量级）。为解
Density Boosts Everything: A One-stop Strategy for Improving Performance, Robustness, and Sustainability of Malware Detectors.
本文针对AI驱动的恶意软件检测器面临的多种挑战（包括投毒攻击、逃避攻击和概念漂移）提出了一种统一的解决方案。作者指出这些挑战的一个根本原因是数据稀疏性，即某些特征值在数据集中出现的频率极低。为解决稀疏性问题，论文设计了新的压缩技术来缓解稀疏
Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics
本文针对大型语言模型（LLM）面临的越狱攻击（jailbreak attacks）问题，提出了一种新的检测方法——流形轨迹动力学（Manifold Trajectory Kinetics, MTK）。现有检测方法通常依赖固定的度量空间（如原
Black-box, Adaptive, Efficient, Transferable, Harmful, Applicable... Attacks Are All You Need to Break LLMs
该论文针对大型语言模型（LLM）的对抗鲁棒性评估缺乏标准化基准的问题，提出了一种新的攻击方法——间接危害优化（Indirect Harm Optimization, IHO）。目前，LLM的越狱攻击评估存在诸多缺陷：攻击设计不完善会导致鲁棒
On Improving Robustness of Deepfake Image Detectors
该论文聚焦于深度伪造图像检测器在对抗攻击下的鲁棒性问题。尽管近年来提升检测器对未见生成模型泛化能力的研究取得进展，但检测器仍易受对抗样本攻击。作者复现了Abdullah等人（IEEE SP 2024）对八种检测器的评估，并额外测试了七种最先
ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving
该论文首次系统性地研究了具有推理能力的视觉-语言-动作（VLA）模型在自动驾驶场景下对现实输入扰动的鲁棒性。以往研究多假设推理与轨迹生成紧密耦合且鲁棒，但实际场景中存在各种文本输入噪声（如传感器错误、环境描述歧义等）。作者以NVIDIA最新
Quantum-Enhanced Adversarial Robustness in Artificial Intelligence
本文由Jaydip Sen撰写，发表于arXiv，属于cs.AI领域，主要探讨如何利用量子计算增强人工智能系统的对抗鲁棒性。文章首先回顾了人工智能在医疗、金融、自动驾驶等安全关键领域的成功应用，同时指出其深度神经网络容易受到对抗样本攻击的脆
SAMark: A Self-Anchored Text Watermarking with Paragraph-Level Paraphrase Robustness
本文提出一种名为 SAMark 的自锚定文本水印框架，旨在解决语义级文本水印在段落级改写攻击下鲁棒性不足的问题。传统语义水印以句子为基本单元，依赖于句子顺序，而段落级改写（如重排句子顺序、同义替换等）会全局破坏水印信号。SAMark 通过建
Adversarial Vulnerability Under Temporal Concept Drift: A Longitudinal Study of Android Malware Detection
本文研究了在时间概念漂移背景下，Android恶意软件检测模型的对抗鲁棒性如何随时间演变。研究团队收集了跨越十多年的Android应用数据集，从模拟器和真实设备执行中提取静态和动态特征表示，并将数据按年份切片。他们设计了三种部署协议模拟真实
LACMUS: Latent Concept Masking for General Robustness Enhancement of DNNs.
该论文提出了一种名为 LACMUS（Latent Concept Masking for Robustness）的通用鲁棒性增强方法，旨在提升深度神经网络（DNN）对对抗攻击和分布偏移的鲁棒性。作者认为，DNN 对对抗扰动和分布漂移的敏感性
PhishSigma++: Malicious Email Detection with Typed Entity Relations
本文提出了一种名为 PhishSigma++ 的恶意邮件检测方法，旨在解决现有检测器过度依赖易变的文本特征、在对抗性文本操纵下性能急剧下降的问题。研究背景是随着 AI 生成内容（AIGC）的发展，攻击者具备了更丰富的语言能力和逃避技术。核心
Innocent Until Proven Guilty (IUPG): Building Deep Learning Models with Embedded Robustness to Out-Of-Distribution Content.
本文提出了一种名为“Innocent Until Proven Guilty (IUPG)”的新型深度学习训练框架，旨在解决传统分类器（使用分类交叉熵损失）在真实世界环境中面临的三个关键问题：对分布外输入给出过度自信的后验概率、对对抗性噪声
Beyond RTT: An Adversarially Robust Two-Tiered Approach For Residential Proxy Detection.
该论文针对住宅代理检测问题，提出了一种超越传统RTT（往返时间）特征的对抗鲁棒两层级检测架构。住宅代理常被用于隐匿恶意流量，传统基于RTT的检测方法易受对抗性攻击。本文设计了两层级检测系统：第一层基于轻量级特征快速筛选可疑流量，第二层采用更