#speech-recognition

共收录 2 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Jinwen Xin, Xixiang Lyu, Jing Ma

该研究聚焦于语音识别模型的后门攻击,提出了一种利用自然或日常生活中的声音(如雨声、鸟鸣等)作为触发器的自然后门攻击方法。与传统的后门攻击不同,自然触发器不需要人工合成噪声,而是直接使用环境中存在的、看似正常的音频信号,从而攻击更具隐蔽性和危害性。实验在两种数据集(如Google Speech Commands和LibriSpeech)和三种模型(如DeepSpeech、Wav2Vec2等)上进行,评估了投毒率、触发器持续时间和混合比例对攻击性能的影响。结果表明,仅需5%的投毒样本即可实现接近100%的攻击成功率,且对良性样本的模型性能无显著影响。即使触发器持续时间很短或幅度很低,攻击依然有效。研究者指出,这类后门会在自然环境中被相应声音自动激活,难以被传统防御手段检测,对语音助手、自动字幕等实际应用构成严重威胁。论文的主要贡献在于系统性地研究了自然后门攻击的条件和效果,揭示了语音识别系统在面对自然触发器时的脆弱性,并呼吁开发更鲁棒的防御机制。

💡 推荐理由: 语音识别系统广泛应用在智能设备、安全认证等场景,自然后门攻击利用环境声音作为触发器,隐蔽性极强,可能导致设备被恶意操控或敏感信息泄露,值得安全从业者提前防范。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jinwen Xin, Xixiang Lv

本文提出 SpeechGuard,首个针对语音识别模型的在线后门防御流水线。后门攻击通过在训练阶段注入少量恶意样本,使模型在遇到特定触发器时输出攻击者指定的错误结果,这在自动驾驶语音交互等安全敏感场景中危害极大。SpeechGuard 针对音频信号特性,设计了两阶段防御:第一阶段基于改进的 STRIP 方法(S-STRIP),通过自适应扰动注入检测并过滤被投毒的音频样本;第二阶段利用时频(T-F)掩码抑制触发器信号的表达,并基于自编码器自动生成掩码,从而净化中毒样本,即使输入含有触发器的语音也能得到正确预测。实验表明,SpeechGuard 能准确过滤中毒样本,显著缓解后门威胁,同时保持较高的预测精度。

💡 推荐理由: 首次提出针对语音识别模型的在线后门防御方案,填补了运行时防御的空白,对自动驾驶等关键场景有直接应用价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)