#backdoor-attacks

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Abile Jean, Kuniyilh S

本文研究了针对信息物理系统(CPS)中基于机器学习的故障检测与定位机制的后门攻击。CPS(如智能电网、工业自动化)依赖传感器、计算和控制器实时检测电压波动等故障并执行负载均衡。近年来,深度学习模型被广泛用于异常检测,但它们易受对抗性攻击。后门攻击中,攻击者向训练数据注入恶意模式,使模型在大部分时间表现正常,但遇到特定触发器时输出攻击者控制的结果。作者定义了在CPS故障检测场景下的后门威胁,设计了触发器生成方法,并通过实验验证了攻击有效性,即使只有10%的训练数据被投毒也能成功。论文的主要贡献在于系统性地将后门攻击引入CPS故障检测领域,并展示了其可行性,警示了AI驱动CPS的安全脆弱性。适合CPS安全研究人员、机器学习安全工程师阅读。

💡 推荐理由: CPS是关键基础设施的核心,后门攻击可能导致故障被隐藏或误报,引发电力中断等灾难性后果,安全团队需警惕AI供应链风险。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Lei Jiang, Fan Chen

该论文综述了变分量子电路(VQC)中的后门攻击威胁。变分量子算法(VQA)是含噪中等规模量子计算的核心范式,但其依赖预设计和预训练的VQC引入了严重的安全漏洞,特别是后门攻击。这些攻击将隐藏的恶意行为嵌入模型中,在正常情况下保持休眠,但被特定触发器激活后会导致对抗性后果,如错误预测或操纵目标值。论文系统性地梳理了后门攻击的分类,涵盖数据投毒、编译器级别和量子原生机制,形式化了关键术语和威胁模型,并回顾了现有攻击策略及其经验特征。此外,分析了当前检测与防御方法,指出了其局限性,尤其是在应对量子特定威胁方面的不足。通过综合最新进展,论文勾勒了VQC的安全演变格局,并指出了在混合量子-经典系统中开发鲁棒、量子感知防御的关键挑战和未来方向。适合量子计算安全研究人员、VQC开发者和对AI安全感兴趣的读者。

💡 推荐理由: 首次系统梳理量子电路后门攻击,揭示NISQ时代量子机器学习的新威胁面,对量子安全研究具有奠基意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Marte Eggen, Eirik Reiestad, Kristian Gjøsteen, Inga Strümke

本文系统性地研究了现代神经网络中后门攻击的密码学不可检测性问题。传统后门攻击往往依赖特定的触发器模式,且容易被防御机制检测。受近期密码学进展启发,作者提出了一种基于潜在空间方向的攻击框架,将后门通道建模为网络在训练过程中学习的潜在方向。核心创新在于:将不可检测性问题转化为一个假设检验问题——攻击者无需引入外部结构,而是利用网络自身几何中已存在的方向作为后门载体。通过在标准图像分类数据集上对ResNet和Vision Transformer架构进行实验,该方法在保持干净样本精度几乎不下降的同时实现了持续的高攻击成功率,并能抵抗多种主流的后训练防御(如剪枝、微调、神经元清洗等),除非将模型完全破坏。作者进一步从理论上论证,由于模型参数的分布复杂,区分后门模型与干净模型的假设检验在实践中是难解的,从而建立了后门的密码级不可检测性。该工作表明,密码学意义上的后门并非只能用于理论架构,而是现代深度学习模型潜在空间固有几何属性的直接体现,对AI安全领域具有重要的理论推进价值。

💡 推荐理由: 该研究首次在实用级神经网络(ResNet、ViT)上实现了密码学意义上的不可检测后门,挑战了当前多数防御机制的有效性基础。安全团队需认识到潜在空间中的后门可能难以通过统计检测发现,对模型供应链安全、白盒审计提出新课题。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)