Do We Really Need to Design New Byzantine-robust Aggregation Rules?
联邦学习（FL）允许多个客户端在服务器协调下协同训练全局机器学习模型，而无需交换私有训练数据。然而，其分布式特性使其容易受到投毒攻击：恶意客户端可通过发送篡改后的本地模型更新来操纵全局模型。为此，学术界提出了多种针对拜占庭故障的鲁棒聚合规则
#poisoning-attack
共收录 10 条相关情报。
← 返回所有主题Poisoning Attacks to Local Differential Privacy Protocols for Key-Value Data.
本文研究了针对键值数据本地差分隐私（LDP）协议的投毒攻击问题。在LDP协议中，不可信的服务器通过收集用户扰动后的数据来执行隐私保护的联邦分析，而无需信任用户。已有的LDP协议覆盖分类、数值和键值等数据类型，但由于分布式设置，攻击者可以通过
CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
检索增强生成（RAG）通过引入外部文档来增强大语言模型（LLM），但公共或用户可编辑的内容源为数据投毒攻击提供了可能。攻击者可以注入恶意文档，引导模型输出攻击者期望的答案。现有的投毒攻击通常依赖在恶意文档中包含目标查询（query incl
Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
协作机器学习允许金融机构在不直接共享数据的情况下共同训练模型，但必须同时满足群体公平性和对抗鲁棒性。然而，现有的公平性感知聚合方法在形式上容易受到“公平性投毒”攻击：恶意客户端可以在保持模型准确性的同时最大化群体差异（例如不同组间的等机会差
Not All Edges are Equally Robust: Evaluating the Robustness of Ranking-Based Federated Learning.
本文研究联邦排名学习（Federated Ranking Learning, FRL）的鲁棒性。FRL 是一种新兴的联邦学习范式，与传统联邦学习有两个关键区别：1）客户端传递离散排名而非梯度更新，大幅降低通信成本并限制恶意更新空间；2）服务
Securing Autonomous Vehicle Systems via Twin-Aware Federated Reinforcement Learning
本文提出一种针对联邦强化学习（FRL）系统的安全防御框架SecAgg+，旨在保护安全关键的自动驾驶场景中的FRL模型免受投毒攻击。联邦强化学习允许多个智能体协同学习而不共享原始数据，从而增强隐私和可扩展性，但现存投毒攻击可通过注入恶意系统参
Assessing the Operational Impact of Poisoning Attacks over Augmented 3D Point Cloud Public Datasets for Connected and Autonomous Vehicles
该论文系统评估了针对增强3D点云公共数据集的投毒攻击的操作性影响。随着自动驾驶和联网汽车的发展，3D点云数据被广泛用于训练感知模型，但公共数据集可能遭受投毒攻击，导致分类错误或后门注入。传统观点认为数据增强技术（如旋转、缩放、噪声添加）可以
Poisoning Attacks to Local Differential Privacy for Ranking Estimation.
局部差分隐私（LDP）是一种允许用户扰动数据以提供合理否认性的隐私保护技术，但这也使其容易受到投毒攻击。本文首次提出针对排名估计的新型投毒攻击。与简单的频率调整不同，攻击者利用有限数量的假用户精确修改物品频率，从而改变排名以最大化收益。为了
Gray-Box Poisoning of Continuous Malware Ingestion Pipelines
本文研究了针对现代恶意软件检测管道的灰盒投毒攻击模型。现代检测系统通常依赖持续数据摄入和机器学习来应对大量新型威胁。作者利用secml_malware框架，通过功能保留的操纵（具体为导入地址表IAT和节注入）生成问题空间对抗性二进制样本。他
AdaBFL: Multi-Layer Defensive Adaptive Aggregation for Bzantine-Robust Federated Learning
本文提出了一种针对联邦学习（FL）中拜占庭攻击的多层防御自适应聚合方法（AdaBFL）。联邦学习允许客户端在不共享原始数据的情况下协作训练模型，但其分布式特性使其容易受到投毒攻击，恶意客户端可能提交损坏的模型以操纵全局模型。现有的拜占庭鲁棒