Get a Model! Model Hijacking Attack Against Machine Learning Models.
这篇论文提出了一种针对机器学习模型的新型训练时攻击——模型劫持攻击（Model Hijacking Attack）。作者指出，机器学习已被广泛应用于自动驾驶、认证系统等关键场景，但随着模型被大量部署，攻击面也随之扩大。其中一类攻击发生在训练
#machine-learning-security
共收录 11 条相关情报。
← 返回所有主题TabularMark: Watermarking Tabular Datasets for Machine Learning.
本文研究面向机器学习训练所用的表格数据集的版权保护问题，提出名为 TabularMark 的水印方法。传统表格数据水印方法在可检测性、非侵入性和鲁棒性等期望属性上存在不足，并且通常仅从数据统计层面保留数据效用，而忽略了水印对下游机器学习模型
Narcissus: A Practical Clean-Label Backdoor Attack with Limited Information.
本文提出了一种名为 Narcissus 的实用后门攻击方法，属于干净标签（clean-label）后门攻击的新变体。传统后门攻击通过在训练集中注入带有触发器且标签被篡改的数据，使模型在推理阶段将含触发器输入误分类为攻击者指定类别。干净标签攻
Defending against Model Extraction for GNNs with Model Reprogramming
图神经网络（GNN）是机器学习即服务（MLaaS）中高风险应用的核心技术，但其黑盒部署模式易受模型提取（Model Extraction）攻击：攻击者通过查询API窃取模型知识产权。现有防御措施存在根本性的'欧几里得偏差'——它们直接将图像
GraphGuard: Detecting and Counteracting Training Data Misuse in Graph Neural Networks.
GraphGuard 是一种针对图神经网络 (GNN) 训练数据滥用的检测与对抗方法。随着 GNN 在机器学习即服务 (MLaaS) 平台上的部署，本地训练过程缺乏透明度，可能导致数据所有者知识产权被侵犯。现有方案要么只检测要么只缓解滥用，
PoisonSpot: Precise Spotting of Clean-Label Backdoors via Fine-Grained Training Provenance Tracking.
该论文针对机器学习模型面临的清洁标签后门攻击防御难题，提出了一种名为 PoisonSpot 的新型检测系统。清洁标签后门攻击通过污染训练数据嵌入隐藏行为，且无需修改标签，使得现有防御手段难以有效检测。PoisonSpot 的核心创新在于借鉴
Towards a Re-evaluation of Data Forging Attacks in Practice.
本文重新评估了数据伪造攻击（data forging attacks）在实践中的可行性与强度。数据伪造攻击旨在提供反事实证据，证明模型是在某个数据集上训练的，而实际上却是用另一个数据集训练的。攻击者通过用小批量数据替换为包含不同训练样本但产
Stealthy World Model Manipulation via Data Poisoning
本文针对基于模型的学习代理（model-based learning agents）中世界模型（world model）的微调阶段面临的数据投毒攻击问题，提出了SWAAP（Stealthy World Model Manipulation
Landseer: Exploring the Machine Learning Defense Landscape
机器学习系统面临着多样化的威胁，这些威胁会破坏模型的鲁棒性、隐私性和公平性。尽管已有许多防御方法被提出，但每个防御通常只孤立地解决单一风险。在实际部署中，需要将这些防御组合起来同时满足多个保障需求。然而，防御的组合过程复杂且尚未被充分理解，
CatBack: Universal Backdoor Attacks on Tabular Data via Categorical Encoding.
机器学习中的后门攻击旨在通过向训练数据中植入恶意样本，使模型在遇到特定触发器时产生攻击者指定的输出。现有研究多聚焦于图像等同质数据，而表格数据因同时包含数值和类别特征，其异构性使得攻击设计更具挑战。本文提出CatBack，一种针对表格数据的
Dataset Reduction and Watermark Removal via Self-supervised Learning for Model Extraction Attack.
本文提出一种基于自监督学习的模型提取攻击方法，旨在同时实现数据集缩减和水印移除。传统模型提取攻击通常需要大量查询和完整训练数据，且可能保留原始模型的水印。作者利用自监督学习（如对比学习）从目标模型中提取知识，仅需少量未标记样本即可训练一个紧