#trojan-attack

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Ahmadreza Azizi, Ibrahim Asadullah Tahmid, Asim Waheed, Neal Mangaokar, Jiameng Pu, Mobin Javed, Chandan K. Reddy, Bimal Viswanath

本文提出 T-Miner,一种针对深度神经网络 (DNN) 文本分类器 Trojan 攻击的防御框架。Trojan 攻击通过在训练阶段植入后门触发器,使得任何包含该触发器的输入都会被误分类为攻击者指定的目标标签。与图像领域丰富的防御工作相比,文本领域的后门防御研究相对有限。T-Miner 采用序列到序列 (seq2seq) 生成模型,该模型探测可疑分类器并学习生成可能包含 Trojan 触发器的文本序列。其关键创新在于:不需要访问训练数据集或干净输入,而是使用人工合成的“无意义”文本作为初始种子来训练生成模型。随后,T-Miner 分析生成模型输出的文本,判断其中是否包含触发器短语,从而确定分类器是否被植入了后门。实验在 1100 个模型实例上进行,覆盖 3 种主流 DNN 架构(如 LSTM、CNN、BERT 等)、5 种不同的分类任务(如情感分析、垃圾邮件检测等)以及多种触发器短语。结果显示,T-Miner 对 Trojan 模型和干净模型的总体检测准确率达到 98.75%,在干净模型上误报率极低。此外,T-Miner 对针对性的自适应攻击也表现出鲁棒性,能够抵御攻击者刻意绕过检测的尝试。本文的主要贡献在于:提出了首个基于生成模型的无数据文本后门防御方法,并通过大规模实验验证了其有效性和鲁棒性。

💡 推荐理由: 文本分类模型在安全敏感场景(如邮件过滤、内容审核)中广泛应用,但 Trojan 攻击可导致严重误判。T-Miner 不依赖原始训练数据,具有实际部署价值,填补了文本领域后门防御的空白。

🎯 建议动作: 研究跟进,评估方法在自己模型上的适用性

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus

本文研究了语义通信(SemCom)在多址接入信道(MAC)中的无线后门攻击与防御问题。语义通信旨在超越传统比特级恢复,保留语义信息并支持面向任务的信息传输。当两个发射器通过共享无线信道向一个公共接收器发送语义信息时,接收器需要联合重建并分类两个发射器的语义。攻击者利用训练阶段,通过发射低功率触发器波形(over-the-air)将其注入共享接收信号中,形成后门。测试阶段,当攻击者再次发射相同触发器时,接收器会错误分类/重建被攻击发射器的语义,但另一个发射器的推理几乎不受影响,实现选择性攻击。为此,作者提出了一种触发器感知的防御机制,通过在训练过程中使用含有触发器的无线观测样本进行鲁棒训练,使模型能够正确识别并忽略触发器的影响。实验结果表明,共享接入的语义通信系统容易受到选择性的无线后门攻击,而所提出的触发感知鲁棒训练能有效保护语义推理的正确性。该工作揭示了多用户语义推理场景中的新安全漏洞,并提供了可操作的防御方法,对无线网络安全、机器学习安全以及语义通信的实际部署具有重要参考价值。

💡 推荐理由: 首次揭示了多址接入语义通信中基于空中注入的无线后门攻击,并提出了有效的触发感知防御,对保障未来6G语义通信的安全性具有前瞻意义。

🎯 建议动作: 纳入内部评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)