SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
该论文关注机器学习训练数据供应链中的投毒攻击防御问题。随着模型训练越来越依赖公开且不可信的第三方数据源，攻击者可以通过向训练集中注入少量恶意样本来使模型对特定目标样本产生错误分类。现有防御方法大致分为两类：一类完全不具备任何关于哪些样本被投
#ml-security
共收录 30 条相关情报。
← 返回所有主题On the Relationship between Model Quantization and Model Inversion Attacks
该论文研究模型量化与模型反演攻击（Model Inversion, MI）之间的定量关系，并据此提出一种兼顾隐私与效用的训练后量化方法。研究背景是：量化通过降低神经网络权重与激活的数值精度来压缩存储与计算开销，已在边缘与部署场景广泛使用；但
Beyond Scalar Probes: Exploiting Vector-Valued Outputs in ReLU Networks For Signature Extraction
本文重新审视了针对 ReLU 前馈神经网络的"密码分析式"模型提取问题，即把神经网络权重与偏置的恢复类比为对密码算法的密钥恢复，从几何与代数两个视角对这一问题给出新的刻画。论文指出，以往工作大多把注意力集中在网络的单个输出分量上（例如沿某一
Breaking Windows Malware Detection: A Comprehensive Evaluation of Problem-Space Adversarial Robustness
该论文针对基于机器学习的 Windows 恶意软件检测器所面临的问题空间逃逸攻击（problem-space evasion）开展了统一、大规模的经验评估，目标是弥补当前研究中的碎片化问题。作者指出，尽管已有大量工作证明 ML 恶意软件检测
Where the Numbers Come From: Auditing Evaluation in Provenance-Based Intrusion Detection
这篇论文针对基于溯源图(provenance)的入侵检测系统(PIDS)的评测方法学开展审计。作者指出，仅复现某个检测器给出的分数，并不能说明该分数对其实际输出的告警意味着什么，也不能说明其编码器真正利用了哪些信息。为此，作者收集并审计了九
Weaponizing Ground Truth: Data Poisoning Attacks by Exploiting Boundary Misalignment Between Antivirus Software and Learning-Based Detectors
该论文研究基于机器学习（ML）的恶意软件检测器在训练数据构建环节面临的一个系统性风险：业界普遍直接采用杀毒引擎（AV）及其聚合服务（如 VirusTotal）给出的判定作为监督标签，隐含假设是 AV 标签可靠且与下游模型所感知的特征空间保持
Comparative Evaluation of Static Embedding Models for HTTP Request Anomaly Detection
该论文面向 Web 应用安全中的 HTTP 请求异常检测问题。作者指出，传统 Web 应用防火墙（WAF）主要依赖人工规则，存在误报率高、对新型攻击与业务变化适应性差的问题；已有研究尝试用机器学习与词嵌入模型改善检测效果，但不同嵌入模型之间
HYDRA: Proactive Android Malware Drift Adaptation via Hierarchical Graph Contrastive Learning
该论文聚焦于 Android 恶意软件检测中的概念漂移（concept drift）问题。随着恶意样本持续演化，基于机器学习训练的检测器性能会显著退化。作者指出当前两类主流适应策略各有缺陷：一类是「反应式」方案，只有在检测性能已经下降后才触
Identifying Suspected Mislabeled Apps in Google Play Application Removal Prediction: An Empirical Comparison of Label Noise Detection Methods
该论文研究 Google Play 应用下架预测任务中的标签噪声问题。现有预测模型（如 Mohsen、Karastoyanova 与 Azzopardi 2022 年构建的 870,514 个应用的语料）所用的标签只记录某应用在后续某个观测
Passive Hybrid Network-Based Intrusion Detection System (Hybrid-NIDS) Combining Suricata and Random Forest
该论文评估了一个被动式混合网络入侵检测系统原型的实际效果，系统由三部分组成：Suricata 负责基于签名的流量检测，随机森林（Random Forest）负责流级分类，并通过集中式 ELK 栈完成告警汇聚与处理。作者的核心关切并非再刷一个
Normal Alignment: Improved Cryptanalytic Sign Recovery on Hard-Label Networks
该论文研究硬标签（S1）深度神经网络的密码分析式模型提取问题。背景：在 EUROCRYPT 2025 上，Carlini 等人首次证明，在只能获得模型最终预测类别（硬标签）的黑盒条件下，攻击者可在多项式时间内恢复网络各层神经元的符号（sig
Cryptanalytic Extraction of Neural Networks Without Known Architecture Assumption
本文研究神经网络模型窃取中的一个经典问题：密码分析式提取（cryptanalytic extraction）。这类攻击仅凭对模型原始输出（如 logits 或完整概率向量）的黑盒访问，就能恢复网络参数。然而，以往所有此类攻击都建立在一个根本
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
该论文针对监督学习中的训练阶段数据投毒问题开展了一次系统的实证评测。研究背景是：数据投毒通过污染训练集来破坏模型整体性能，或向模型中植入由攻击者控制的后门行为，目前多数公开研究聚焦于单一攻击或单一模型，缺乏在统一实验条件下对不同投毒方式、不
Sound Debloating of Redundant Checks in Zero-Knowledge Machine-Learning Circuits
本文研究的是零知识机器学习（ZKML）电路中的「冗余检查」问题及其可证明安全的去膨胀（debloating）技术。背景是：面向神经网络推理的零知识证明系统会把模型编译成大规模算术约束系统，其中包含大量范围证明、符号查找（sign looku
SoK: Privacy Attacks on Machine Learning via Explainable AI
该论文是一篇系统性综述 (SoK), 聚焦于一个长期被分散讨论的安全议题: 可解释人工智能 (XAI) 所输出的解释信息, 如何反过来成为攻击者窃取模型机密与训练数据隐私的入口。作者指出, 机器学习解释原本用于提升模型透明度, 但它揭示的是
Concept drift mitigation through community and spectral graph analysis for the detectionof cyberattacks in network traffic
该研究针对网络流量入侵检测中长期存在的「概念漂移」问题：合法业务行为与攻击手法会同步演进，导致任何检测模型在两次更新之间的窗口期内迅速失效，检测方始终落后攻击者一步。作者提出把干预点从「漂移发生后再修复模型」前移到「训练之前先选好特征空间」
Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
持续学习（Continual Learning, CL）旨在让模型能够从按顺序到达的任务中获取新知识并保留旧知识，但灾难性遗忘问题一直存在。现实场景中，数据流往往来自不可信来源，可能被攻击者注入极少量后门毒化样本，对持续学习器的稳定性、可塑
The "Beatrix" Resurrections: Robust Backdoor Detection via Gram Matrices.
本次输入仅提供论文标题与作者信息，未包含论文摘要内容。根据标题推测，该论文提出了一种名为'Beatrix'的后门检测方法，核心是利用Gram矩阵分析深度学习模型的内部特征，以实现对模型后门的鲁棒检测。后门攻击是深度学习模型面临的重要安全威胁
Beyond Detection Accuracy: Measuring Explanation Cost, Stability, and Utility for Resource-Aware IoT Intrusion Detection
本文针对物联网入侵检测中的机器学习模型，指出已有研究通常只强调预测精度，而将解释性分析（如SHAP）视为零计算成本的附加步骤，忽视了实际部署中的资源约束和解释成本。作者联合评估了预测性能、解释计算开销、局部解释稳定性以及选择性解释（即仅对关
(A)iSpy: Parasitic Trojans for Machine Learning Infrastructure
本文提出了一种针对机器学习基础设施的新型攻击面——寄生基础设施木马（Parasitic Infrastructure Trojan），并展示了具体实现(A)iSpy。现代机器学习流水线高度依赖第三方库进行图编译和硬件加速，现有安全实践主要审