SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
该论文关注机器学习训练数据供应链中的投毒攻击防御问题。随着模型训练越来越依赖公开且不可信的第三方数据源，攻击者可以通过向训练集中注入少量恶意样本来使模型对特定目标样本产生错误分类。现有防御方法大致分为两类：一类完全不具备任何关于哪些样本被投
#data-poisoning
共收录 44 条相关情报。
← 返回所有主题High-quality Data Do not Mean Safe! Poisoning LLMs after Data Selection
该论文研究的是大语言模型（LLM）微调阶段的数据投毒问题，指出了一个被此前工作普遍忽略的盲区。既有研究通常假设投毒样本会原封不动地进入下游微调流程，但在真实训练流水线中，数据往往先经过基于质量的数据筛选（selection/filterin
Epistemic Typing as a PostgreSQL Table Access Method: Adversarial Conflict Resolution Under Confidence Forgery and Sybil Coordination
该论文提出了 KNDB——一个以 PostgreSQL 18 表访问方法（Table Access Method, TAM）形式实现的「认知类型化」引擎，用于在数据库写入路径上直接完成对抗性冲突消解。研究背景是数据融合与众包真值发现（tru
Why Backdooring Neural Networks is so Easy?
该论文研究的是神经网络后门攻击中的一个基础理论问题: 攻击者到底需要多大的预算才能构造既成功又隐蔽的后门。作者把攻击者预算拆解为两个量: 训练数据中的投毒比例 π 与触发器强度 α。研究动机来自近期的实证观察: 对大语言模型投毒时, 即使干
LENS: The Sum Is Worse Than the Parts for Set-Level Poisoning in Retrieval-Augmented Generation
该论文研究检索增强生成（RAG）系统在「集合级」投毒场景下的新型脆弱性。传统观点认为 RAG 通过聚合多篇外部文档来提升答案可靠性，但作者指出：这种联合整合本身会引入一个被忽视的攻击面——单篇文档各自看起来都合理无害，但把它们作为整体一起送
Physics-Attested Federated Learning: Securing Collaborative Anomaly Detection in Critical Water Infrastructure
该论文针对工业控制系统（尤其是关键水务基础设施）中联邦学习入侵检测的一个根本性缺陷展开研究：现有防御机制几乎全部在"模型更新空间"内运作（如 Krum、FoolsGold、Trimmed-Mean 等聚合规则），聚合服务器只能看到客户端上传
The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning
该论文研究监督微调（SFT）流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据，以降低人工标注成本，但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是：恶意用户是否
Weaponizing Ground Truth: Data Poisoning Attacks by Exploiting Boundary Misalignment Between Antivirus Software and Learning-Based Detectors
该论文研究基于机器学习（ML）的恶意软件检测器在训练数据构建环节面临的一个系统性风险：业界普遍直接采用杀毒引擎（AV）及其聚合服务（如 VirusTotal）给出的判定作为监督标签，隐含假设是 AV 标签可靠且与下游模型所感知的特征空间保持
TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement
该论文关注多模态训练数据投毒这一供应链安全问题。多模态模型依赖从外部渠道收集的图像-文本语料，攻击者可在其中注入经过精心构造的样本：这些样本本身看起来是合理的图文对，不暴露检测器所依赖的异常特征，因此表面干净的数据仍可能在训练后把模型行为导
The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems
随着大语言模型及其驱动的智能体（agent）能力增强，这些智能体日益自主化，并可代表用户在互联网上执行操作，例如自动管理用户的社交媒体账号。然而，部署在社交平台上的自动化智能体自身的脆弱性研究仍不充分。现有关于智能体投毒的研究通常假设攻击者
Divide and Doubt: Diverse Distributed Poisoning for Retrieval-Augmented Generation
本文关注检索增强生成（RAG）系统中的语料投毒威胁：由于 RAG 会把外部语料检索后拼接进 LLM 上下文，攻击者只需向知识库注入少量文档，就可能操纵模型对特定问题的回答。此前针对开放域问答的多段落投毒研究，普遍把同一个目标论断反复写入风格
Micro-Collaborative Poisoning: A Distributed Attack on RAG Systems
检索增强生成(RAG)通过将大模型输出锚定在外部知识源上提升事实性，但这一依赖也使知识库本身成为投毒面。本文提出 Micro-Collaborative Poisoning(微协作投毒)，一种分布式投毒范式：攻击者不再把虚假目标主张集中写入
InceptionRAG: Stealthy Poisoning Attack Against Retrieval-Augmented Generation
本文研究检索增强生成（RAG）系统的语料库投毒威胁。现有针对 RAG 的投毒攻击大多属于「单点显式注入」，即把恶意载荷完整封装在单一文档中，因此近年出现的缓解机制能够较有效地识别并削弱这类威胁。作者首先通过实验验证：面对「间接逻辑诱导」这一
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
该论文聚焦大语言模型微调阶段的后门数据投毒评估方法学。传统后门研究通常固定投毒样本数量，再从候选数据池中随机抽取投毒集合，并据此估计模型的最坏情况脆弱性。作者指出这种做法会严重低估真实风险：在三个基于 LLaMA-3-8B 的后门实验设置中
Detecting and Localizing Segment-Level Poisoning in Multi-Source LLM-Agent Inputs
该论文研究的是多源 LLM Agent 输入场景下的"片段级投毒"（segment-level poisoning）检测与定位问题。现代 LLM Agent 通常把检索到的文段、用户评论、外部文档等多来源内容聚合成一个 prompt，攻击者
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
该论文针对监督学习中的训练阶段数据投毒问题开展了一次系统的实证评测。研究背景是：数据投毒通过污染训练集来破坏模型整体性能，或向模型中植入由攻击者控制的后门行为，目前多数公开研究聚焦于单一攻击或单一模型，缺乏在统一实验条件下对不同投毒方式、不
Robust Industrial Cyber Physical Classification Using Neuromorphic Temporal Embeddings and Hybrid SNN XGBoost Under Machine Unlearning Attacks
该论文关注电力配电网数字化带来的安全后果：工控与关键基础设施侧的网络暴露面扩大，而现有入侵检测系统（IDS）多依赖计算开销大的深度学习模型，难以在边缘侧部署；同时，为适应数据分布漂移而进行的周期性重训练，又使模型暴露于「机器遗忘攻击」（ma
Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
持续学习（Continual Learning, CL）旨在让模型能够从按顺序到达的任务中获取新知识并保留旧知识，但灾难性遗忘问题一直存在。现实场景中，数据流往往来自不可信来源，可能被攻击者注入极少量后门毒化样本，对持续学习器的稳定性、可塑
Poisoning Attacks on the PGM-index
本论文研究了一种针对学习型索引结构 PGM-index 的投毒攻击方法。PGM-index 是一种基于最优分段线性近似（PLA）的实用学习索引，通过最小化分段数量来提升查询效率。作者首次探讨了这种最优 PLA 本身对恶意数据插入的敏感性，提
Data Poisoning Attacks to Deep Learning Based Recommender Systems.
推荐系统在各类在线服务中帮助用户发现感兴趣内容，基于深度学习的推荐系统因性能优势日益普及。然而，这类系统的安全性鲜有研究。本文首次系统研究针对深度学习推荐系统的数据投毒攻击。攻击者通过注入精心构造评分的虚假用户，操纵系统输出，使攻击者选定的