Combining Homomorphic Encryption and Differential Privacy in Federated Learning for Model Inspection and Availability
该论文针对联邦学习(FL)中隐私保护的割裂现状提出了一套组合式框架。背景在于:去中心化数据日益普遍,联邦学习允许客户端在不共享本地敏感数据的前提下协同训练模型,但 FL 本身并不足以保护训练数据——梯度更新仍可能泄露成员信息与属性信息,因此
共收录 148 条相关情报。
← 返回所有主题该论文针对联邦学习(FL)中隐私保护的割裂现状提出了一套组合式框架。背景在于:去中心化数据日益普遍,联邦学习允许客户端在不共享本地敏感数据的前提下协同训练模型,但 FL 本身并不足以保护训练数据——梯度更新仍可能泄露成员信息与属性信息,因此
该论文聚焦联邦学习(FL)中的安全聚合(Secure Aggregation)机制,并指出其一个长期被忽视的功能性局限:在传统协议中,聚合结果的精度(分辨率)在客户端上传更新时就被一次性固定下来。也就是说,服务器与客户端在协议开始前必须就量
这是一篇立场/观点型(perspective)论文,讨论多机构协作开展科学人工智能时的隐私基础问题。背景是:科学 AI(从基础模型 FM 到联邦数据分析流水线)正在成为国家实验室、大学、医院与产业伙伴共同依赖的共享基础设施;这种协作产生的隐
背景与问题:边缘计算把数据处理下沉到终端用户与 IoT 设备附近,降低了时延并缓解回传带宽拥塞,但由于边缘节点异构、资源受限、且往往部署在非受管的管理域中,攻击面被指数级放大,这些节点成为高价值且脆弱的目标。同时,全球范围内的数据隐私法规又
去中心化大语言模型(LLM)微调允许多个机构在不汇聚原始数据、也没有中心协调者的情况下,协作训练一个共享的 LLM。其典型流程是:每一轮中,每个节点在通信图上与邻居交换可训练的适配器(adapter),随后在本地对收到的适配器进行聚合更新。
联邦学习允许多个客户端在不共享私有数据的前提下协同训练模型,但服务器对本地训练过程缺乏可见性,既无法确认客户端是否严格遵循既定训练流程,也难以发现模型投毒等恶意更新。一种直观的验证思路是“重放”客户端训练:用相同配置重新执行训练并比对结果。
该论文针对去中心化联邦学习(DFL, Decentralized Federated Learning)场景下防御能力不足的问题,提出了名为 DecoyTrace 的主动式网络欺骗防御方案。DFL 取消了中心聚合服务器,虽然避免了单点故障,
该论文针对工业控制系统(尤其是关键水务基础设施)中联邦学习入侵检测的一个根本性缺陷展开研究:现有防御机制几乎全部在"模型更新空间"内运作(如 Krum、FoolsGold、Trimmed-Mean 等聚合规则),聚合服务器只能看到客户端上传
该论文介绍了一种新一代联邦学习(FL)系统,目标是解决早期 FL 部署中的运营难题,并首次提供可被外部验证的中心化差分隐私(DP)保证,同时改善隐私与效用之间的权衡。系统基于可信执行环境(TEE)构建:设备使用由 TEE 托管的密钥管理服务
在大语言模型训练语料中,跨客户端重复数据会降低联邦学习(FL)的效率,同时加剧模型记忆化与隐私泄露风险。隐私保护的跨客户端去重可清除重复训练数据,从而缓解该问题。然而现有方案均遵循“先去重、后训练”(Deduplication-before
该论文研究的是「同态加密下的联邦学习训练」这一隐私保护机器学习场景。加密训练有一个长期存在的硬性约束:服务端聚合与更新的多项式次数必须保持很低(低度数/low-degree),因为同态方案中每次乘法都会消耗乘法层级并引入噪声。这一约束传统上
该论文聚焦联邦学习(FL)与世界模型(WM)结合用于自动驾驶(AD)这一新兴交叉场景。联邦世界模型自动驾驶(federated WM-AD)允许各车辆在不上传原始私有驾驶数据的前提下协同训练世界模型,从而获得更强的环境预测与规划能力;但论文
本文是一篇面向区块链与人工智能融合方向的元综合(meta-synthesis)论文,作者 Harsh Verma 将四项既有研究整合进统一的分析框架:对抗性机器学习(训练数据与模型行为的完整性)、云环境中的 AI 驱动异常检测(实时监控的可
本文研究联邦学习场景下的入侵检测系统(Federated IDS)在面对标签翻转投毒(label-flipping model poisoning)时的鲁棒性问题。作者构建了一个三客户端联邦入侵检测实验环境,训练数据为 CICIDS2017
该论文研究如何在资源受限的物联网(IoT)设备上部署既保护隐私又具备实用检测能力的入侵检测系统。研究背景是:IoT 设备大规模铺开,使得在设备本地直接运行入侵检测成为刚需,因为把原始流量送到云端既涉及隐私合规问题,也受带宽与延迟限制。联邦学
该论文关注联邦学习(FL)中一类被现有防御忽视的威胁模型。传统 FL 防御普遍假设攻击者是静态的、彼此独立的(例如固定比例的投毒客户端或互不配合的恶意节点),因此可以依靠单客户端行为异常或鲁棒聚合规则将其过滤。作者指出这一假设可被"动态自适
该论文聚焦于联邦学习在临床多中心研究中的落地难题。作者指出,联邦学习虽然能在不共享患者级原始数据的前提下实现多方协同建模,但绝大多数研究仍停留在仿真阶段,难以真正部署到跨医院的真实临床研究中。为厘清差距,作者先从文献中归纳出五项核心需求(涵
随着社会与生活方式复杂度上升,全球心理健康困扰的患病率持续增长。教育机构、职场与诊所等组织积累了海量的心理健康问卷调查数据,若能进行跨机构的协作分析,就有望训练出更具泛化能力、可有效识别心理困扰的预测模型。然而这一目标面临两大障碍:一是隐私
该论文针对联邦学习鲁棒聚合的一个被忽视的前提缺陷展开研究:坐标中位数、Krum、Bulyan、截断均值等方法的有限样本保证,都默认每轮参与客户端是全体总体的公平采样。但在部分参与场景下每轮仅少量客户端上报,攻击者占比即便不高也足以主导该轮样
该论文针对视觉语言模型(VLM)在隐私敏感与带宽受限场景下的视觉问答(VQA)任务,提出名为 QPriv-VL 的「问题引导式、隐私感知」视觉 token 剪枝框架。研究背景是:联邦学习(FL)、拆分学习(SL)与 U 型拆分学习(USL)