AGNNCert: Defending Graph Neural Networks against Arbitrary Perturbations with Deterministic Certification.
图神经网络（GNN）在节点分类、图分类等图相关任务上取得了当前最优的性能，但近年来研究显示，GNN容易受到对抗性扰动的影响，这些扰动可作用于构成图的三个组件：边、节点和节点特征。经验性的防御方法往往很快被自适应攻击者突破，而认证防御虽能提供
#adversarial-robustness
共收录 55 条相关情报。
← 返回所有主题A Four-Axis Trustworthiness Benchmark for LLM-as-Judge in Principle-Based Regulation
原则性监管（如“公平、清晰、不误导”或“提供良好结果”）属于评判性标准，无法简化为二元谓词。随着大型语言模型（LLM）被越来越多地用作裁判，其实际评估质量变得至关重要。本文提出，任何此类裁判都必须从四个维度进行评测：准确性（accuracy
Adversarial Robustness in Smishing Detection: A Comparative Analysis of Adversarial Fragility in Classical vs. Transformer-Based Detection Systems
本文针对短信钓鱼（smishing）检测系统的对抗鲁棒性进行了系统比较研究。当前多数检测模型在干净、单语文本上训练与评估，但在低资源场景下，攻击者常通过字符混淆、跨语言代码切换和结构扰动等方式规避检测。研究选取了五种模型架构：三种经典词法模
Robust Reputation-Driven Crowdsourced Federated Learning
本文关注众包联邦学习（Crowdsourced Federated Learning, CrowdFL）中的鲁棒性量化问题。CrowdFL通过众包范式允许开放、异构的参与，扩展了传统联邦学习，而声誉驱动的激励机制常被用于引导工人选择并增强可
Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity
本文研究多智能体协同过滤（CF）系统中的攻击与防御问题，特别关注系统连接性如何影响这些攻击和防御的效果。多智能体CF系统由多个自主的大语言模型（LLM）驱动的用户智能体和物品智能体组成，它们通过自然语言交互来细化偏好并生成推荐。这类系统既继
Revisiting the Adversarial Robustness of Graph-Based Traffic Forecasting
本文针对智能交通系统中基于图神经网络（GNN）的交通流量预测模型，重新审视了其对抗鲁棒性。作者认为先前研究采用的威胁模型不切实际，如假设攻击者拥有完整模型知识或进行全局非目标扰动，因此对攻击和防御的评估均有偏差。实际攻击者通常只能利用有限知
Evaluation of Adversarial Robustness in Arabic Language Models
这篇论文系统评估了五种最先进的阿拉伯语大语言模型在多种对抗攻击下的鲁棒性，并探索了基于对抗训练的防御方法。研究背景是：随着阿拉伯语模型能力的提升，它们面临的安全风险也随之增加，其中对抗攻击可以使模型产生错误预测，造成严重的安全和伦理问题。作
Latent Stability Analysis of Malware Representations Under Feature-Space Perturbations
本文提出了一种用于恶意软件表征的隐空间稳定性分析管道，旨在评估在特征空间扰动下恶意软件嵌入表示的稳定性。传统恶意软件检测器通常使用准确率、F1、ROC AUC等干净样本指标评估，但这些指标无法揭示当特征向量受到扰动时，学习到的表征如何变化、
EXE-Bench: Ranking the Tradeoffs of AI-based Windows Malware Detectors for Real-World Usability
该论文指出现有基于AI的Windows恶意软件检测器缺乏系统性的评估方法，导致无法确定哪种模型适合实际部署。现有评估存在四个主要缺陷：1）训练和测试数据不统一；2）未考虑时间维度，无法检验模型随时间推移的性能衰减；3）缺少对抗攻击下的安全性
GPE: Evaluating Robust Evidence Aggregation for Fact Verification under Controllable GEO-Style Poisoning
该论文关注大型语言模型（LLM）在依赖检索工具获取最新信息时面临的新攻击面：攻击者可通过操纵检索文档来影响模型输出。随着生成式引擎优化（Generative Engine Optimization）的发展，特定内容更易被检索、引用和采纳，放
Adversarial Frontiers: Minimum-Norm Attack Ensembles for Robustness Evaluation
本文针对当前对抗鲁棒性评估方法的局限性，提出了一种新的评估框架。现有方法通常使用预定义的攻击集成（如AutoAttack）在单一扰动预算ε和少量范数下进行评估，存在三个根本问题：1) 模型间的鲁棒性-扰动曲线可能相交或以不同速率衰减，导致单
SoK: Adversarial Robustness of the Variational Quantum Eigensolver via Red-Teaming
该论文系统性地研究了变分量子本征求解器（VQE）的对抗鲁棒性问题。VQE是近期量子硬件上估算分子基态能量的领先算法，广泛应用于量子化学、材料科学和药物发现。随着VQE工作负载通过基于云的'VQE即服务'管道部署，它面临来自受损服务组件、恶意
Adversarial Robustness of Phishing Email Detection: A Comparative Study of TF-IDF + Logistic Regression and Fine-Tuned DistilBERT
本文针对钓鱼邮件检测的对抗鲁棒性进行了系统比较研究。研究背景在于，当前机器学习分类器在钓鱼邮件检测中广泛应用，但其准确性往往仅在干净、分布内测试数据上评估，而忽略了对经过刻意修改以逃避检测的对抗性邮件的鲁棒性。为弥补这一空白，作者选取了两种
Shared Vulnerabilities in Robustness-Optimized Defenses: One Breach Exposes the Family
该论文揭示了鲁棒性优化防御（如对抗训练和对抗净化）中存在一种新的安全风险：共享脆弱性。尽管这些防御方法在单独评估时能显著提升模型对对抗样本的鲁棒性，但一旦某一代表性防御被有效攻破，整个同类防御家族可能面临暴露。为了区分真正的可迁移性、失真导
LLM-Guided Program Evolution for Targeted Black-Box Attacks on Perceptual Hash Algorithms
该论文提出了一种基于大语言模型引导的演化框架（结合GigaEvo和OpenEvolve），用于对感知哈希算法（PHA）实施有针对性的黑盒第二图像攻击。感知哈希算法广泛应用于图像篡改检测，但对抗性扰动的鲁棒性研究不足。作者设计了一个复合评分函
Beyond Gradient-Based Attacks: Adversarial Robustness and Explainability Stability in Cybersecurity Classifiers
该论文研究网络安全分类器在面对对抗性攻击时的鲁棒性及其可解释性稳定性问题。以往工作主要关注基于梯度的攻击方法，但许多实际分类器（如随机森林、XGBoost）是不可微的树模型。作者将先前的MLP研究扩展到随机森林和XGBoost，并在四个表格
How Reliable Is Your Jailbreak Judge? Calibration and Adversarial Robustness of Automated ASR Scoring
该论文系统性地评估了用于衡量大语言模型（LLM）越狱攻击成功率的自动化裁判（ASR评分器）的可靠性。研究背景是：几乎所有关于LLM越狱和提示注入的论文都报告攻击成功率（ASR），但这些ASR通常由自动化裁判（专用安全分类器或通用聊天模型）打
Exposing the Illusion of Erasure in Knowledge Editing for LLMs
本文研究了大型语言模型（LLM）中知识编辑（Knowledge Editing, KE）方法的可靠性与潜在安全漏洞。KE 旨在无需昂贵重训练即可更新模型中的特定事实，但最新研究发现其效果存在严重局限性。作者从对抗性诱发（adversaria
A Red-Team Study of Anthropic Fable 5 & Opus 4.8 Models
该论文对 Anthropic 开发的两个前沿大语言模型（Fable 5 和 Opus 4.8）进行了系统性的红队测试，评估其对抗自动化越狱攻击的鲁棒性。研究使用 HackAgent 红队框架，生成了数十万次对抗性尝试，覆盖四个自动化越狱攻击
Reinforcement Learning Disrupts Gradient-Based Adversarial Optimization
本文研究强化学习（RL）训练如何破坏基于梯度的对抗攻击。传统上，梯度攻击（如PGD、AutoAttack）利用神经网络的梯度信息高效生成对抗样本。作者假设RL训练（使用策略梯度目标和epsilon-greedy探索）可以改变模型梯度结构，使