Dagger: Decoupling-based Model Stealing Attack against Graph Neural Networks
随着图神经网络（GNN）被广泛以机器学习即服务（MLaaS）的形式对外提供 API，模型窃取攻击已成为关键安全威胁：攻击者仅通过查询受害模型的黑盒接口，就能训练出一个功能等价的替代（代理）模型，从而窃取专有知识产权并危及依赖该模型的下游安全
#model-stealing
共收录 9 条相关情报。
← 返回所有主题TensorShield: Safeguarding On-Device Inference by Shielding Critical DNN Tensors with TEE.
随着移动端和物联网设备上的人工智能推断任务日益普及，端侧推理（on-device inference）已成为保护用户数据隐私的主流范式。该范式通常将第三方提供的模型部署在本地设备上执行推断，然而这会将私有模型暴露于两大安全威胁之下：模型窃取
Algebraic Attack on Convolutional Neural Networks with Max Pooling
该论文针对卷积神经网络（CNN）中最大池化层的参数提取攻击进行了系统研究。参数提取攻击旨在通过黑盒输入-输出查询恢复深度神经网络的权重和偏置，此前已在基于ReLU的全连接神经网络（FCNN）上得到广泛探索，但在包含最大池化层的CNN中仍是空
Leaky Language Models: Stealing Architecture and Inference Optimizations via Per-Token Timing
该论文提出了一种名为 LeakyLMs 的攻击方法，通过分析语言模型生成每个 token 的耗时（per-token timing），从远程 API 接口中窃取模型架构和推理优化部署细节，无需直接访问模型内部结构。攻击分为两部分：第一部分针
Black-Box Inference of LLM Architectural Properties with Restrictive API Access
这篇论文研究了在API访问受到严格限制的情况下，如何推断大语言模型（LLM）的底层架构属性。当前大多数商业LLM供应商不再公开模型架构细节，且API只返回每个解码token的单一logit值，不再提供logit偏置功能。作者提出了Night
Understanding Data Importance in Machine Learning Attacks: Does Valuable Data Pose Greater Harm?
本论文研究了机器学习中数据重要性（data importance）与各类攻击脆弱性之间的关系。尽管已有工作表明不同训练样本对模型效用的贡献存在差异，但“高价值数据是否更容易受到攻击”这一关键问题尚未被系统回答。作者分析了五种典型攻击类型（包
SSLGuard: A Watermarking Scheme for Self-supervised Learning Pre-trained Encoders.
自监督学习作为一种新兴的机器学习范式，利用无标签数据预训练强大的编码器，这些编码器可作为特征提取器服务于各种下游任务。然而，由于预训练过程需要大量数据和计算资源，编码器本身成为模型所有者的宝贵知识产权。研究表明，模型窃取攻击通过训练替代模型
Model Stealing Through the Lens of Model Multiplicity
该论文从模型多重性的角度重新审视了模型窃取攻击的传统观点。通常认为，攻击者通过查询目标模型构建高保真代理模型，可以获得与原始服务提供商相近的经济优势。然而，论文指出由于查询提取只能提供目标模型输入输出行为的部分监督，代理模型并非唯一确定：存
FlowGuard: Flow Matching for Identity-Independent Detection of Data-Free Model Stealing Attacks on Energy System Intrusion Detection Systems
该论文针对能源基础设施中基于人工智能的入侵检测系统（IDS）面临的模型窃取攻击问题，提出了一种新型防御方法FlowGuard。模型窃取攻击允许攻击者通过查询IDS来复制其决策边界，从而离线生成逃避检测的恶意流量。现有防御方法存在两个主要缺陷