Poster: Verifiable Data Valuation with Strong Fairness in Horizontal Federated Learning.
联邦学习(FL)是一种去中心化的机器学习范式,允许多个参与方在不共享原始数据的情况下协同训练全局模型。由于各参与方数据质量参差不齐,如何公平地评估每个数据提供者的贡献(即数据估值)成为保障FL公平性的关键问题。现有工作常引入沙普利值(Sha
共收录 148 条相关情报。
← 返回所有主题联邦学习(FL)是一种去中心化的机器学习范式,允许多个参与方在不共享原始数据的情况下协同训练全局模型。由于各参与方数据质量参差不齐,如何公平地评估每个数据提供者的贡献(即数据估值)成为保障FL公平性的关键问题。现有工作常引入沙普利值(Sha
本文提出了一种基于多密钥同态加密(MK-HE)的隐私增强零阶联邦学习协议,适用于无线信道环境。传统联邦学习中的同态加密方法主要依赖单密钥方案,需要信道估计或预均衡来补偿无线衰落,且单密钥方案易受诚实但好奇的客户端攻击——一旦某个客户端密钥泄
联邦学习在保护数据隐私的同时,面临来自恶意客户端的模型投毒攻击威胁,现有防御方法多依赖固定阈值或固定聚类数量来区分恶意梯度与良性梯度,难以适应动态变化的攻击策略,且由于客户端本地数据异构性,容易误丢弃良性梯度。针对这些问题,本文提出一种增强
联邦学习通过不传输原始数据的方式实现分布式模型训练,但平均聚合方法受非独立同分布(non-IID)数据的严重影响,导致收敛速度慢和模型精度下降。现有替代方案具有显著的低效性:带有噪声或高度异构数据的客户端贡献了昂贵的梯度计算,这些计算在聚合
该论文提出了一种高效的联邦学习因果遗忘方法 HF-KCU,用于在不完全重训练的情况下移除特定客户的数据贡献,以满足隐私法规(如 GDPR)的数据删除要求。传统方法从头重训练计算成本极高(O(d^3)),而 HF-KCU 通过 Krylov
本文提出一个名为XAI FL-IDS的分布式入侵检测系统框架,旨在解决传统集中式IDS存在的两大局限:隐私泄露和缺乏可解释性。当前大多数IDS依赖集中式检测,要求IoT节点将原始数据发送至服务器,不仅增加网络开销,也无法保证数据隐私;同时,
本文针对空中联邦学习(OTA-FL)系统中的后门攻击漏洞提出了一种两阶段鲁棒聚合防御框架。OTA-FL利用无线信道的叠加特性提升通信效率,但该特性也导致参数服务器无法获取单个客户端的本地更新,从而难以识别和排除被投毒的梯度。此外,在非独立同
该论文提出了一种用于网络入侵检测的新型联邦学习方法,旨在解决传统联邦学习假设各参与机构数据分布同质的问题。作者指出,不同机构(如金融公司与政府机构)的安全控制成熟度、风险暴露程度存在显著差异,导致其本地模型训练数据本质不同。论文从ISACA
该论文针对半导体供应链中假冒集成电路(IC)带来的安全威胁,提出了一种基于联邦学习的隐私保护协同检测方案。传统联邦学习易受拜占庭数据投毒攻击,导致模型聚合被污染。作者设计了一个轻量级的客户端认证框架FedEDAuth,在联邦学习的嵌入层进行
本文提出了一种名为 DisAgg 的新型安全聚合协议,用于联邦学习中的隐私保护。在传统联邦学习中,客户端更新直接暴露给中央服务器,存在隐私风险。现有的安全聚合方案虽然能抵御诚实但好奇的服务器,但通常存在通信轮数多、公钥操作重、难以处理客户端
联邦学习(FL)极易受到后门攻击的影响,恶意客户端会向全局模型中注入特定行为。现有的防御方法在真实世界的非独立同分布(non-IID)数据下存在较高的误报率,会错误地将良性客户端标记为恶意,即使正确识别了对手也会导致模型精度下降。本文提出了
本文提出一种名为 DP-LAC 的轻量级自适应裁剪方法,用于解决联邦学习(FL)中差分隐私(DP)随机梯度下降(DP-SGD)的裁剪阈值自调整问题。在联邦微调大规模语言模型(LLM)时,DP-SGD 通过裁剪每个客户端贡献的梯度范数至阈值
本文提出了一种针对语言模型联邦学习(FL)训练过程的梯度反转攻击方法GRAB。以往研究表明,梯度反转攻击在视觉模型的连续域中威胁显著,但在语言模型中由于文本数据的离散性,攻击效果通常被认为较弱或依赖于不切实际的训练设置,导致其隐私威胁被低估
本文提出 Flamingo,一种用于大规模客户端数据安全聚合的系统,特别针对联邦学习中的多轮聚合场景。联邦学习中,服务器需要多次对客户端提交的模型权重进行求和(平均)以训练模型,但必须保证不泄露任何客户端的个体输入。现有协议如 Bell e
联邦学习(FL)面临诸多安全攻击,但学界对其根本原因及有效防御缺乏整体理解。本文系统剖析了现有定向攻击的内部机制,揭示了攻击可行的原因在于:机器学习算法对尾部数据的记忆需求对FL完整性产生重大影响——这一现象此前主要被研究为隐私问题,本文首
本文提出 martFL,一种专为安全、可验证的数据市场设计的联邦学习架构。在数据市场中,数据需求方(DA)需要从多个数据提供方(DP)获取高质量训练数据,但直接交换原始数据存在隐私风险。联邦学习通过交换模型或梯度来传递数据效用,但现有架构存
该论文提出了一种名为 FedAttr 的新协议,用于在联邦学习(FL)环境下对大型语言模型(LLM)微调过程进行客户端级别的归属分析。传统的基于水印的放射性检测方法已证明在集中式LLM微调中有效,但在联邦学习中面临挑战:联邦学习依赖安全聚合
该论文提出了一个名为CLAD的综合框架,用于解决物联网(IoT)和工业物联网(IIoT)环境下的入侵检测问题。随着IoT设备的激增,网络攻击面大幅扩大,传统集中式入侵检测系统面临隐私和扩展性挑战。联邦学习(FL)提供了一种隐私保护方案,但现
本论文提出一种针对联邦学习的训练时后门攻击方式,使恶意服务器能够系统性地提取客户端完整训练样本。传统数据提取方法往往只能概率性重建或产生幻觉,无法精确恢复原始数据。该方法通过修改训练过程,在模型中嵌入一个后门触发器,当输入特定索引模式时,模
该论文提出 ZKSL,一个可验证且高效的拆分/联邦学习框架,将训练过程与零知识证明相结合。核心目标是实现联邦学习的隐私保护与可验证正确性,同时避免高昂的证明开销。ZKSL 通过三个设计支柱实现: (i) 层间并行证明,逐层生成证明并聚合;