JASPER: Special Session on Joint Reliability And Security Assessment of SPlit Computing for Edge Robustness
分割计算（Split Computing, SC）通过在边缘设备与云服务器之间切分深度神经网络（DNN）推理来降低端侧算力与延迟压力，但切分点处传输的中间特征表示同时暴露于两类风险：其一是硬件故障（如瞬态位翻转、软错误）导致的推理精度退化，
#adversarial-robustness
共收录 55 条相关情报。
← 返回所有主题When Normalization Selects the Sign: Auditing Robustness Ablations in Quantum Attention
该论文研究机器学习安全评测中一个被普遍忽视的方法论缺陷：消融实验里移除某个输入缩放模块（input-scaling module）时，同时改变了分类器本身与真正到达编码器的扰动幅度，因此观察到的鲁棒性差异可能来自比较规则，而不一定来自被移除
Still There, No Longer Seen: Exposing Compression-Induced Risk in Large Vision-Language Models
该论文关注大型视觉语言模型（LVLM）在推理加速中被广泛采用的视觉 token 压缩技术所引入的安全盲区。压缩能显著降低推理成本，但现有鲁棒性评估多用聚合指标，无法回答一个关键归因问题：某次对抗性失败究竟是由压缩过程新增的，还是原本就继承自
No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
该论文研究了基础模型训练效率与模型脆弱性之间可能存在的权衡关系。近年来，为应对大规模训练带来的巨大算力与数据需求，研究者广泛采用选择性数据采样、高效预训练以及简化强化学习（RL）训练管线等策略。这些方法显著降低了开销，但作者提出一个此前被忽
Quantum Machine Learning for Cybersecurity Applications: Simulation and Hardware Validation
该论文聚焦一个此前研究覆盖不足的问题：在特征维度受限、计算预算紧张的条件下，经典威胁检测流水线在面对接近决策边界的样本时性能往往会明显退化。作者指出，虽然小型量子处理器已经可用，但现有工作很少系统性地验证量子组件能否在上述资源受限场景下真正
JevAdvBench: A Benchmark and Black-Box Attacks for Reinforcement Learning for Calibrated Decisions Models
该论文研究的是「面向校准决策的强化学习」(RLCD, reinforcement learning for calibrated decisions) 模型的对抗鲁棒性问题，代表模型是 Jev。这类模型与常规生成式模型不同：它接收输入(称为
FeatMark: Feature-level Watermark Protection against Mimicry Attacks with Diffusion Models
该论文关注文本到图像扩散模型被滥用于数据高效的"模仿"（mimicry）攻击的问题：攻击者只需少量目标个体的公开照片，即可微调模型生成高度逼真的伪造图像（如换脸式深度伪造）。常见对策是在图像中嵌入不可感知的低能量水印，但近期研究证明这类像素
AERIAL: Adversarial Evaluation of Robustness in Accuracy-Preserving Low-Precision EEG Decoders
该论文研究面向部署的模型压缩是否会改变脑机接口（BCI）中 EEG 解码器的对抗脆弱性，这一问题在资源受限的可穿戴/边缘 BCI 场景中尚未有明确结论。作者在 BCI Competition IV-2a 数据集上，对 32 位浮点（FP32
MDRC: A Deployable State-Recovery Defense for Traffic Signal Control under Sensor Corruption
该论文针对交通信号控制(TSC)这一安全关键信息物理系统提出了一种可部署的状态恢复防御框架 MDRC(Meta-Diffusion-based framework for Resilient traffic signal Control)。
Decoding Guardrails: XAI-Guided Perturbation Analysis of Prompt Injection Detection
该论文针对 LLM 生产部署中广泛使用的分类器式护栏（以 Meta 的 Prompt Guard 2 为代表）开展了可解释性（XAI）驱动的探索性案例研究。作者指出，这类护栏被当作抵御提示注入与越狱攻击的第一道防线，但其内部决策逻辑对防御方
StyleAT: Defending Face Recognition Against Semantic Attacks
该论文研究人脸识别模型在"语义对抗编辑"下的脆弱性问题。背景是:人脸识别已被广泛嵌入日常身份认证与视频监控系统,而近期工作发现,对输入图像做对抗性但语义层面看似合理的修改(例如轻微改变年龄外观、调整头部姿态),就能诱导模型产生误分类。这类语
Epsilon-Nash Equilibria in History-Dependent SA-MDPs
该论文研究状态对抗马尔可夫决策过程（SA-MDP），并将其建模为一场针对观测空间攻击的博弈：智能体每一步根据接收到的观测选择动作，而对手知道智能体所处的真实状态，并在一个依赖状态的邻近集合内选择一个被扰动的观测。已有工作主要聚焦马尔可夫策略
Investigating Adversarial Robustness of Heterogeneous Cooperative Perception
本文研究异构协同感知（Heterogeneous Cooperative Perception, CP）的对抗鲁棒性问题。在此类系统中，传感器配置各异的联网车辆通过紧凑特征图共享空间感知，接收方使用学习到的翻译模块（translation
Certifying Adversarial Robustness of Quantum Classifiers under Known-Readout Query Access
该论文研究量子分类器在已知读出查询访问（KRQA）模型下的认证对抗鲁棒性。量子分类器通过演化输入量子态并测量输出来分配标签，重复执行仅能揭示标签分布。在KRQA中，评估者可制备输入、知晓量子测量、观测有限次测量结果，但无法检查内部演化、参数
Windows Malware Detector as a Compound AI System: Trade-Offs in Accuracy, Efficiency, and Adversarial Robustness
工业界的 Windows 恶意软件检测系统通常被描述为由多种异构组件构成的复合 AI 系统，其中包括基于规则的检测机制以及基于机器学习的静态与动态分析模块。然而，由于工业界保密和公开信息有限，这些系统的内部架构往往只能被推测，导致难以对其检
Towards a Resilience-Theoretic Foundation for Adversarial Robustness in Industrial Control System Anomaly Detection
本文针对工业控制系统（ICS）和运营技术（OT）环境下基于异常的入侵检测系统（IDS）所面临的正式韧性要求展开研究。当前，这类系统被期望具备吸收对抗扰动、在持续攻击下优雅降级以及提供经认证的系统级保障能力。然而，现有的网络物理系统韧性框架通
Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
该论文从神经符号（Neuro-Symbolic, NeSy）视角出发，首次系统评估了后门攻击对NeSy模型的影响。NeSy AI旨在将亚符号神经感知与基于符号的推理相结合，以提高AI系统的透明性、可解释性和效率，通常被认为是“设计上安全”的
Layered LLM Defenses as an Ensemble: Access Tiers, Inference Cost, and the Measured Failure Correlation Between Defense Layers
本文研究了大语言模型（LLM）防御体系的分层堆叠效果。实践中，防御者常通过叠加多层防御来增强安全性，但堆叠是否真正有效取决于一个关键条件：各防御层必须在不同的失败样本上出错，即失败独立性。然而，LLM安全文献虽推荐这一假设，却从未实际测量。
The Heat is On: Understanding and Mitigating Vulnerabilities of Thermal Image Perception in Autonomous Systems.
该论文聚焦于自主系统中热成像感知链路的安全脆弱性。热像仪被广泛用于自动驾驶、无人机、机器人以及安防系统，在夜间或恶劣天气下提供关键的环境感知能力。然而，热成像感知对物理世界的攻击面研究尚不充分。作者系统性地分析了热成像感知流程中从传感器物理
Parameterizing Activation Functions for Adversarial Robustness.
本文研究了可学习参数化激活函数（PAFs）与对抗训练结合时对深度神经网络鲁棒性的影响。以往工作主要关注网络宽度和深度对鲁棒性的作用，而激活函数形状的影响尚未被系统研究。作者首先设计了一组参数化激活函数，其参数可以独立控制负输入、接近零的输入