#federated learning

共收录 6 条相关安全情报。

← 返回所有主题
👥 作者: John Fields, K M Sajjadul Islam, Ruchitha Thota, Victor Chen, Praveen Madiraju

该论文提出了一种基于远程数据科学(RDS)的隐私保护机器学习(PPML)框架,用于跨机构学生保留率预测。研究利用PySyft平台,设计了一个半气隙架构,包括高侧和低侧服务器,使得来自三所大学的研究人员能够在敏感学生数据上构建预测模型,而无需直接访问原始数据。实验使用一所小型私立大学的历史数据(N=720),评估了三种合成数据生成方法,并提出了一种名为“数据类型感知模板”(Data-Type-Aware Templates)的新型合成数据方法,该方法优先考虑隐私而非分布保真度。通过跨机构协作验证,该框架在不同机构间保持一致的分类性能(Macro F1: 0.690-0.695),同时严格遵守美国《家庭教育权利和隐私法案》(FERPA)。研究表明,基于RDS的PPML在教育场景中技术上可行,并且是小规模跨机构合作中联邦学习的一种实用替代方案。论文代码已开源。

💡 推荐理由: 该研究为教育机构提供了一种合规共享敏感数据、协同建模的可行路径,有望推动隐私保护机器学习在教育领域的实际应用。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sheng Wan, Dashan Gao, Hanlin Gu, Lixin Fan, Daning Hu, Qiang Yang

该论文首次系统性地研究了基于logit的联邦学习(FL)中隐藏的隐私风险。传统的参数化FL通过交换模型权重或梯度来保护数据隐私,而新兴的logit-based FL方法则在公共数据上共享模型输出(logits),从而促进模型异构性、降低通信开销并增强客户隐私。然而,这些方法的隐私风险被严重忽视。本文提出并分析了一种半诚实服务器(对手)通过学习训练过程中的历史logits来窃取客户私有模型的自适应模型窃取攻击(AdaMSA)。作者从理论和实验两方面证明了这一隐私风险的存在,即使在公共数据与私有数据无关的情况下,风险依然存在。为应对这一威胁,他们提出了一种简单而有效的防御策略:在传输logits时添加扰动,方向是使隐私风险最小化同时最大限度保持训练性能。实验结果表明,AdaMSA能够有效窃取模型,而防御策略能在少量影响性能的前提下显著降低隐私泄露。该研究为logit-based FL的安全性提供了重要理论基础和实用解决方案,并提醒社区注意这一被忽视的隐私漏洞。

💡 推荐理由: 联邦学习是保护数据隐私的关键技术,logit-based方法因其优势被广泛采用,但其隐私风险尚未被充分认识。本研究揭示了即使公共数据无关,攻击者仍能窃取私有模型,并提供了可落地的防御方案,对使用logit-based FL的企业和研究机构具有高度警示意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Vincenzo Sammartino

该论文提出了一种名为Q-FE的量子原生6G远边缘架构,旨在解决超密集工业物联网(IIoT)数字孪生场景下的安全与延迟挑战。当前架构依赖集中式云或移动边缘计算(MEC)服务器进行数字孪生计算,导致往返延迟过高,且使用易受量子攻击的经典公钥密码。Q-FE通过三个协同设计组件应对这些问题: 1. 微数字孪生(μDTs)与6G基站和高能力端点共存,减少通信跳数; 2. 跨层后量子密钥交换模块将CSIDH-512同源密钥材料直接嵌入MAC层控制帧,利用其紧凑密钥(≤64字节)避免数据包分片,相比ML-KEM/Kyber-1024降低62%的MAC层开销; 3. 异步联邦学习(AFL)协议由MEC节点上的轻量级DAG智能合约管理,消除落后者瓶颈,防止模型投毒和女巫攻击,且不暴露原始数据。 基于NS-3和PySyft的端到端仿真表明:Q-FE将P99.9超可靠低延迟通信(URLLC)维持在0.78 ms,全局模型收敛速度比同步联邦学习提升31%;协议复杂度为每轮O(N log R);μDT切换迁移在模拟的10^4个事件中平均完成时间为1.9±0.3 ms。形式化威胁模型证实其对量子窃听、模型投毒和女巫攻击具有韧性。该工作适合网络架构、后量子密码和联邦学习领域的研究者阅读。

💡 推荐理由: Q-FE首次将CSIDH后量子密钥交换与异步联邦学习深度融合到6G边缘架构中,为工业物联网数字孪生提供了抗量子、低延迟、防投毒的安全通信与计算框架,对6G安全标准化具有前瞻意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Xiaoyu Cao, Jinyuan Jia 0001, Zaixi Zhang, Neil Zhenqiang Gong

联邦学习易受到投毒攻击,恶意客户端通过发送恶意模型更新来破坏全局模型。现有防御主要关注在攻击发生时通过鲁棒聚合或客户端检测来阻止少数恶意客户端,但如何在检测到恶意客户端后高效恢复全局模型仍是一个开放挑战。简单的从头训练方法计算和通信开销巨大,不适合资源受限的客户端(如智能手机和物联网设备)。本文提出 FedRecover,一种利用历史信息从投毒攻击中恢复准确全局模型的方法,且客户端的计算和通信成本极低。核心思想是服务器在恢复过程中利用存储的历史信息(包括每轮的全局模型和客户端模型更新)来估计客户端更新,而非要求客户端实际计算和通信。此外,通过预热、周期性修正、异常修复和最终微调等策略进一步优化,使恢复的模型更准确。理论分析表明,在某些假设下 FedRecover 恢复的全局模型与从头训练恢复的模型接近或相同。在四个数据集、三种联邦学习方法以及无目标和有目标投毒攻击(包括后门攻击)上的实验验证了其准确性和效率。适合联邦学习安全研究者、系统设计者以及对投毒攻击防御恢复感兴趣的读者。

💡 推荐理由: 联邦学习投毒攻击后的模型恢复长期未被有效解决,FedRecover 提供了一种轻量级、可落地的恢复方案,显著降低计算和通信开销,对资源受限场景尤为重要。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chun Yin Chiu

该论文研究了在云-边缘安全分析中,联邦学习(FL)用于入侵检测时的客户端选择问题。在生产环境中,由于带宽异构、掉队者和掉线等问题,服务器可能依赖过时的客户端信息,影响检测的时效性和鲁棒性。作者将客户端选择建模为时效感知的系统问题,引入“信息年龄”(Age of Information, AoI)概念,并提出了三种轻量级策略:AoI优先、效用优先以及混合AoI+效用规则(带可调权衡参数)。在CIC-IDS2017 DDoS/PortScan子集、NSL-KDD、ToN-IoT以及合成漂移基准数据集上,分别针对干净、投毒和投毒加鲁棒聚合设置进行实验。结果表明,与随机采样相比,AoI感知选择平均降低约39-41%的平均AoI和约70%的峰值AoI,同时保持固定的每轮通信预算。混合策略通常能维持Macro-F1/AUC,并提供可解释的旋钮来平衡新鲜度、检测质量和鲁棒性,但在加入误报率指标后并非严格Pareto最优。鲁棒性通过将AoI引导选择与修剪均值聚合结合在标签翻转投毒下评估,但选择策略本身并非独立的拜占庭防御机制。主要实践启示是:云-边缘隐私保护入侵分析可以通过轻量级调度层改善时效性,而无需改变底层FL参与预算。

💡 推荐理由: 针对联邦入侵检测中客户端陈旧数据导致的时效性下降问题,提出信息年龄引导的选择策略,可显著降低信息年龄,提升检测及时性,对实际云-边缘安全分析具有直接参考价值。

🎯 建议动作: 研究跟进:阅读全文并评估在自身联邦入侵检测系统中应用AoI引导选择的可行性。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Liwei Zhang, Linghui Li, Xiaotian Si, Ziduo Guo, Xingwu Wang, Kaiguo Yuan, Bingyu Li

本文针对联邦学习中的成员推断攻击提出了一种统一的防御框架。成员推断攻击旨在判断某个特定数据样本是否被用于训练模型,严重威胁用户隐私。现有防御方法存在计算开销大或可用性-隐私权衡不佳的问题。作者提出通过知识蒸馏和贡献感知聚合来协同防御:首先,服务器利用全局模型对客户端更新进行蒸馏,生成软标签指导本地训练,减少过拟合从而降低成员推断风险;其次,引入贡献感知聚合机制,根据客户端数据质量动态调整聚合权重,使聚合器对异常更新更鲁棒。实验在多个基准数据集(如CIFAR-10、MNIST)上验证,结果表明该方法在保持模型可用性的同时,显著降低了成员推断攻击的成功率(AUC下降超过10%),且计算开销低于现有对抗训练方法。该框架无需修改客户端训练过程,易于部署。

💡 推荐理由: 联邦学习中的成员推断攻击是重大隐私威胁,本工作提供了一种实用且高效的统一防御方案,对隐私合规要求高的场景(如医疗、金融)有直接应用价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)