Gray-Box Poisoning of Continuous Malware Ingestion Pipelines
本文研究了针对现代恶意软件检测管道的灰盒投毒攻击模型。现代检测系统通常依赖持续数据摄入和机器学习来应对大量新型威胁。作者利用secml_malware框架，通过功能保留的操纵（具体为导入地址表IAT和节注入）生成问题空间对抗性二进制样本。他
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Laundering AI Authority with Adversarial Examples
本论文研究视觉语言模型（VLM）作为可信权威时面临的安全威胁。作者提出了一种新型攻击范式——AI权威洗钱（AI authority laundering）：攻击者通过对图像施加人眼几乎不可察觉的对抗性扰动，诱导VLM对错误的视觉输入产生自信
Undetectable Backdoors in Model Parameters: Hiding Sparse Secrets in High Dimensions
该论文提出了一种名为 Sparse Backdoor 的供应链攻击，能够在预训练图像分类器（包括卷积网络和视觉Transformer）中植入一个理论上不可检测的后门。攻击方法是在每个全连接层的少量列上沿随机方向注入结构化稀疏扰动，从而将触发
MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents
本文研究了当LLM代理配备持久化外部记忆（如检索增强生成RAG）时面临的安全威胁，并首次形式化描述了记忆投毒攻击。作者将攻击建模为Stackelberg博弈，并在三个攻击类别（逐步放宽访问权限假设）的统一评估框架下进行验证。首先，作者纠正了
Exposing LLM Safety Gaps Through Mathematical Encoding:New Attacks and Systematic Analysis
该论文揭示了大型语言模型（LLM）安全机制在数学编码攻击下的严重漏洞。当前LLM的防御主要依赖语义模式匹配，作者提出了一系列将有害提示编码为连贯数学问题的方法，包括集合论、形式逻辑和量子力学等数学形式体系。实验在8个目标模型和两个基准测试上
Graph Reconstruction from Differentially Private GNN Explanations
该论文研究了从差分隐私（DP）保护的图神经网络（GNN）解释中重建隐藏图结构的安全风险。虽然差分隐私通常被视为发布解释时降低隐私风险的标准手段，但作者证明了仅依赖DP并不足够：攻击者仅观察到经过DP扰动的GNN解释，就能以高精度重建原始图结
Self-Mined Hardness for Safety Fine-Tuning
该论文提出了一种针对语言模型安全微调的新方法：自我挖掘困难样本（Self-Mined Hardness）。传统安全微调通常需要人工构造对抗性数据集，而本文另辟蹊径，通过评估模型自身对每个候选提示的响应被判定为有害的频率来衡量该提示的难度，然
Distributed Deep Variational Approach for Privacy-preserving Data Release
本文针对联邦学习（FL）中梯度、模型更新和发布表示可能泄露敏感属性的隐私问题，提出了一种名为高斯隐私保护器（Gaussian Privacy Protector, GPP）的数据发布框架。GPP针对连续高维输入，学习一个随机编码器，将原始数
Dimensionality-Aware Anomaly Detection in Learned Representations of Self-Supervised Speech Models
本文研究自监督语音模型（S3Ms）表示学习中的局部几何变化，提出一种基于局部内在维度（LID）的异常检测框架GRIDS。作者发现，自然扰动（如噪声）和对抗扰动会以不同方式改变深层表示的局部维度：低信噪比（SNR）下LID普遍上升；高信噪比下
Evaluating Tabular Representation Learning for Network Intrusion Detection
该论文针对网络入侵检测系统（NIDS）中依赖人工特征工程的问题，系统评估了表格表示学习技术在NetFlow数据上的有效性。传统的NIDS需要专家手动提取特征，这与现代机器学习模型自动学习表示的理念相悖。论文选择了多种先进的表格表示学习方法（
Adversarial Update-Based Federated Unlearning for Poisoned Model Recovery
联邦学习（FL）易受到投毒攻击，恶意客户端会上传篡改的模型更新以降低全局模型的性能。现有的检测方法虽能识别并移除恶意客户端，但模型已受污染，仍需恢复。从头再训练虽然有效但成本高昂，而现有的遗忘方法在效果和效率上均不理想。本文提出联邦对抗遗忘
Detecting Adversarial Data via Provable Adversarial Noise Amplification
本文研究了深度神经网络中对抗性噪声在不同层间的非均匀传播现象，并首次从理论上给出了形式化的对抗噪声放大定理。作者推导出一组充分条件，保证对抗噪声在特定层或特征空间中以可预测的方式放大，从而为对抗样本检测提供了坚实的数学基础。基于理论分析，他
Stochastic Modeling of Human-Machine Authentication Channels under Partial Information Leakage
该论文针对IoT和网络物理系统中常见的PIN认证机制，将其建模为低带宽的人机通信信道，并首次提出在部分信息泄露条件下量化认证可靠性衰减的随机模型。传统安全评估通常采用二元视角（完全安全或完全失陷），忽略了实际环境中因侧信道、观察或窃听导致的
TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning
该论文针对大语言模型（LLM）面临的分解式越狱攻击提出了一种新型防御框架。分解式越狱攻击通过将恶意目标拆分为一系列看似无害的查询，使攻击者能够绕过安全防护，累积重构出被禁止的内容。在实际部署中，LLM面对连续、不可追溯的匿名请求流，其中混杂
Machine Unlearning for Class Removal through SISA-based Deep Neural Network Architectures
该论文研究了机器遗忘（Machine Unlearning）领域中的类别级遗忘问题，提出了一种基于 SISA（Sharded, Isolated, Sliced, and Aggregated）框架的改进方案，用于卷积神经网络（CNN）架构
Low Rank Adaptation for Adversarial Perturbation
本文系统研究了对抗扰动是否具有低秩结构。受Low-Rank Adaptation (LoRA)启发——LoRA通过低秩矩阵更新神经网络层显著提升了大型语言模型的训练效率——作者提出对抗样本的生成也是优化过程，因此自然产生疑问：对抗扰动是否也
AdaBFL: Multi-Layer Defensive Adaptive Aggregation for Bzantine-Robust Federated Learning
本文提出了一种针对联邦学习（FL）中拜占庭攻击的多层防御自适应聚合方法（AdaBFL）。联邦学习允许客户端在不共享原始数据的情况下协作训练模型，但其分布式特性使其容易受到投毒攻击，恶意客户端可能提交损坏的模型以操纵全局模型。现有的拜占庭鲁棒
Understanding Adversarial Transferability in Vision-Language Models for Autonomous Driving: A Cross-Architecture Analysis
本文系统研究了视觉语言模型（VLM）在自动驾驶场景中的对抗性迁移性。随着VLM在自动驾驶中的应用日益广泛，其结合视觉感知与语言推理的能力提升了可解释性，但物理世界对抗攻击的迁移性风险尚未被充分探索。本文针对三种代表性VLM架构（Dolphi
REBENCH: A Procedural, Fair-by-Construction Benchmark for LLMs on Stripped-Binary Types and Names (Extended Version)
该论文提出了 REBENCH，一个用于评估大型语言模型（LLM）在二进制逆向工程任务中性能的标准化基准数据集。当前，LLM 在计算机安全领域，尤其是逆向工程中的函数名恢复、变量名恢复和类型推断等任务上取得了显著进展。然而，由于缺乏标准化的数
Quantamination: Dynamic Quantization Leaks Your Data Across the Batch
本文揭示了一种名为“Quantamination”的新型安全漏洞，该漏洞存在于机器学习服务系统中的动态量化（dynamic quantization）环节。动态量化是一种在模型推理运行时根据输入数据实时调整量化参数的优化技术，旨在降低内存占