#backdoor-attacks

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Xiaoyan Ma, Seohyun Lee, Taejoon Kim, Christopher G. Brinton

本文研究了空中联邦学习(OTA-FL)系统中的后门攻击检测与缓解问题。OTA-FL利用无线信道的叠加特性提高通信效率,但同时也带来了严重的安全隐患:参数服务器(PS)无法访问单个本地更新,因此难以识别和排除被投毒的梯度。此外,在非独立同分布(Non-IID)训练数据下,良性梯度漂移可能与恶意更新极为相似,进一步加剧了检测难度。针对这一问题,本文提出了一种两阶段鲁棒聚合框架。首先,根据数据模态(如波形、文本、图像)和模型架构,为每个客户端分配一个模态感知的多指标信任评分,选择最能区分后门更新的指标。基于该评分,PS执行基于信任的多址接入(TBMA),将客户端分为可信、可疑和恶意三类。对于可疑客户端,PS进一步通过层间检查和纵向声誉机制进行深入审查。在多个数据集上的实验结果表明,该方法能够有效抑制隐蔽的后门攻击(包括有界缩放攻击、欧几里得约束攻击、余弦约束攻击和Neurotoxin),同时保持主任务准确率基本不受影响。本文主要贡献在于提出了一个无需访问原始本地更新的防御框架,适用于OTA-FL场景,并针对不同数据模态设计了可定制的信任指标。适合无线通信、联邦学习及对抗性机器学习领域的研究人员阅读。

💡 推荐理由: OTA-FL的通信效率和安全性之间存在固有矛盾,该研究首次提出一种不依赖原始本地更新的后门防御方案,为无线联邦学习安全提供了新的解决思路,对部署实际OTA-FL系统具有指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Lei Jiang, Fan Chen

该论文综述了变分量子电路(VQC)中的后门攻击威胁。变分量子算法(VQA)是含噪中等规模量子计算的核心范式,但其依赖预设计和预训练的VQC引入了严重的安全漏洞,特别是后门攻击。这些攻击将隐藏的恶意行为嵌入模型中,在正常情况下保持休眠,但被特定触发器激活后会导致对抗性后果,如错误预测或操纵目标值。论文系统性地梳理了后门攻击的分类,涵盖数据投毒、编译器级别和量子原生机制,形式化了关键术语和威胁模型,并回顾了现有攻击策略及其经验特征。此外,分析了当前检测与防御方法,指出了其局限性,尤其是在应对量子特定威胁方面的不足。通过综合最新进展,论文勾勒了VQC的安全演变格局,并指出了在混合量子-经典系统中开发鲁棒、量子感知防御的关键挑战和未来方向。适合量子计算安全研究人员、VQC开发者和对AI安全感兴趣的读者。

💡 推荐理由: 首次系统梳理量子电路后门攻击,揭示NISQ时代量子机器学习的新威胁面,对量子安全研究具有奠基意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Marte Eggen, Eirik Reiestad, Kristian Gjøsteen, Inga Strümke

本文系统性地研究了现代神经网络中后门攻击的密码学不可检测性问题。传统后门攻击往往依赖特定的触发器模式,且容易被防御机制检测。受近期密码学进展启发,作者提出了一种基于潜在空间方向的攻击框架,将后门通道建模为网络在训练过程中学习的潜在方向。核心创新在于:将不可检测性问题转化为一个假设检验问题——攻击者无需引入外部结构,而是利用网络自身几何中已存在的方向作为后门载体。通过在标准图像分类数据集上对ResNet和Vision Transformer架构进行实验,该方法在保持干净样本精度几乎不下降的同时实现了持续的高攻击成功率,并能抵抗多种主流的后训练防御(如剪枝、微调、神经元清洗等),除非将模型完全破坏。作者进一步从理论上论证,由于模型参数的分布复杂,区分后门模型与干净模型的假设检验在实践中是难解的,从而建立了后门的密码级不可检测性。该工作表明,密码学意义上的后门并非只能用于理论架构,而是现代深度学习模型潜在空间固有几何属性的直接体现,对AI安全领域具有重要的理论推进价值。

💡 推荐理由: 该研究首次在实用级神经网络(ResNet、ViT)上实现了密码学意义上的不可检测后门,挑战了当前多数防御机制的有效性基础。安全团队需认识到潜在空间中的后门可能难以通过统计检测发现,对模型供应链安全、白盒审计提出新课题。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)