#voice-assistant

共收录 7 条相关安全情报。

← 返回所有主题
推荐 9.4
Conf: 50%
👥 作者: Shimaa Ahmed, Ilia Shumailov, Nicolas Papernot, Kassem Fawaz

本文针对语音助手中的关键词检测(Keyword Spotting, KWS)系统在真实场景下的鲁棒性挑战展开研究。关键词检测是语音助手的首要环节,需要在连续音频流中准确识别唤醒词。然而,现实环境中的噪声、干扰以及恶意构造的对抗样本都可能导致其性能显著下降。论文题目暗示其目标在于提升KWS系统对各种扰动的鲁棒性。作者团队跨越多所高校,具备机器学习与安全领域的专业背景,可能采用数据增强、对抗训练、鲁棒声学特征或模型架构改进等策略。由于仅获取到标题和作者信息,无法获知具体方法、实验设置与评测数据集,因此本摘要基于题目推测,所有技术细节均需以原论文正式发表版本为准。读者若关注语音交互安全或对抗机器学习,可追踪该工作获取后续完整成果。

💡 推荐理由: 语音助手已大量普及,关键词检测作为唤醒入口,其鲁棒性直接影响设备可用性与安全性;若被对抗样本或噪声绕过,可能导致误唤醒或恶意指令执行。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Donghui Dai, Zhenlin An, Lei Yang 0025

本文研究了一种新型的无声命令注入攻击,利用了无线充电过程中产生的磁干扰。此前研究已表明,语音识别系统或语音助手可能被通过超声波、激光和电磁干扰(EMI)等不可听介质注入的恶意语音命令操控。本文则揭示,智能设备在无线充电时,其麦克风组件会因低频频段(100 kHz 及以下)缺少有效的 EMI 防护而遭受严重磁干扰。利用这一漏洞,作者设计了两种攻击:HeartwormAttack 和 ParasiteAttack。前者通过被攻陷的无线充电器注入恶意语音命令;后者则利用附加的寄生设备(parasite)完成注入。两种攻击均以正在无线充电的智能设备为目标,向语音助手注入不可听的指令。作者在 17 种目标设备(如 iPhone、华为、三星等)以及 6 类语音助手(如 Siri、Google STT、Bixby 等)上进行了大量实验,在商用充电配置下验证了两种攻击的可行性。该研究揭示了无线充电场景中音频链路的新攻击面,表明即使不依赖传统音频或射频干扰,仅通过磁干扰也能操纵语音助手,对用户隐私和设备安全构成潜在威胁。

💡 推荐理由: 无线充电已成为主流,该研究揭示了一个此前未被充分认知的硬件级攻击面,可绕过语音助手的声纹验证,导致敏感操作被未授权执行。安全团队应评估设备在无线充电场景下的 EMI 防护能力,并考虑对充电附件建立信任机制。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yuanda Wang, Hanqing Guo, Qiben Yan

该论文提出了一种名为 GhostTalk 的新型攻击方法,攻击者通过篡改的手机充电线在物理层面入侵智能手机的语音助手系统。具体场景是:在商场中,受害者租用了一个被恶意修改过的充电宝,该充电宝内含特制的充电线,当受害者将手机连接到这个充电宝充电时,攻击者可以远程利用该充电线中的恶意组件,向手机语音助手注入指令或干扰其正常工作,从而实现远程控制。该攻击属于硬件供应链攻击的一种,利用了用户对公共充电设施的信任,攻击隐蔽性强,用户难以察觉。论文的核心贡献是揭示了一种通过电源线作为攻击信道的新型交互式攻击途径,强调了物理层安全与硬件安全在移动设备防护中的重要性。该研究面向移动安全研究人员、硬件安全工程师以及语音助手服务提供方,提醒其关注充电配件供应链中的潜在恶意改造风险。由于目前仅获得论文摘要,尚未获知具体的技术实现细节、实验验证结果及防御措施,因此以上分析基于摘要内容。

💡 推荐理由: 该攻击展示了公共充电设施被篡改后,可远程操控语音助手,危害用户隐私与设备安全,为移动安全防护提供了新视角。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Song Liao, Long Cheng 0005, Haipeng Cai, Linke Guo, Hongxin Hu

本论文关注亚马逊 Alexa 语音助手平台中第三方技能(voice applications)违反平台政策的问题。研究首先通过一项包含 34 名第三方技能开发者的用户调研,揭示了开发者对平台各项政策要求(如隐私、安全、内容合规等)的认知存在显著不足,导致政策违规技能不可避免地被发布。为了解决这一问题,论文提出了一种名为 SkillScanner 的静态分析工具,能够在技能开发阶段自动检测潜在的策略违规行为。SkillScanner 通过解析技能代码逻辑和配置,识别与平台策略相冲突的模式,从而帮助开发者在发布前修正问题。实验表明,该方法能够有效发现多种类型的政策违规,包括不当数据收集、权限滥用等。论文的主要贡献包括:量化了开发者与平台政策之间的认知差距,设计并实现了轻量级的静态分析框架,以及通过真实 skill 样本验证了工具的有效性。该研究为语音助手生态的安全治理提供了实用方案,适合平台安全团队、技能开发者及安全研究人员阅读。

💡 推荐理由: 提醒安全从业者:语音助手技能的政策违规可能引入隐私泄露、权限滥用等风险。SkillScanner 可在开发阶段介入,降低上线后的人力审核成本,对保障 VPA 平台可信度有直接意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Xiaoyu Ji 0001, Juchuan Zhang, Shui Jiang, Jishen Li, Wenyuan Xu 0001

本文研究了一种名为CapSpeaker的新型攻击方法,能够在没有扬声器的情况下,通过电子设备内部的电容器向麦克风注入恶意语音命令。核心原理是利用电容器的逆压电效应:当施加交变电压时,电容器会因压电材料变形而产生机械振动,从而发出声音。然而,电容器作为扬声器存在两个挑战:一是其频率响应在可听声范围内表现较差;二是攻击者无法直接控制电容器两端的电压来精确调控发声。为克服这些困难,作者提出基于PWM(脉宽调制)的调制方案,将恶意音频信号调制到高频载波(例如20kHz以上),并设计恶意软件来控制电容器上的电压,使其播放选定的语音命令。实验使用了一个改装LED灯和一个商用LED灯作为发射源,对5款目标设备(包括iPhone 4s、iPad mini 5、华为Nova 5i等)进行了测试。结果表明,在距离最远10.5厘米时,CapSpeaker仍能成功触发智能手机接收并执行语音命令,例如“开门”。该研究揭示了硬件层面新型侧信道攻击途径,对语音助手安全性提出了新的挑战。

💡 推荐理由: 该研究揭示了通过设备内常规电容器实现无声注入语音攻击的新途径,绕过传统物理隔离假设,对语音助手和IoT设备安全构成潜在威胁。

🎯 建议动作: 研究跟进,关注硬件层面攻击缓解技术

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Aafaq Sabir, Abhinaya S. B., Dilawer Ahmed, Anupam Das 0001

本文对亚马逊 Alexa 平台上的广告行为进行了首次大规模分析,研究了智能语音助手生态中广告的普遍性、特征及对平台政策的合规性。研究背景是随着智能语音助手(如 Alexa)的快速普及以及大型语言模型驱动助手的潜在增长,平台引入“广告 ID”使得广告不可避免。Alexa 虽允许第三方开发者在其语音应用(技能)中包含广告,并制定了广告政策,限制在技能响应、通知或提醒中插入广告(特定情况除外),但开发者是否遵守政策或试图绕过审核发布违规广告仍不明确。作者提出了一种自动化广告检测方法,利用微调的大型语言模型(LLM)在识别广告方面达到 88.92% 的准确率,并采用链式思考(CoT)提示将识别潜在违规广告的准确率提升至 94.52%。通过对 45,477 个 Alexa 技能进行分析,发现 13.58% 的技能包含广告或推广内容,主题集中在旅游和娱乐等领域。值得注意的是,部分广告来自亚马逊推广的机构(如 Vixen Labs)开发的技能,另一些则来自专注于语音助手平台的机构(如 Skilled Creative)。模型识别出约 29.18% 的广告可能存在政策违规。作者将发现报告给亚马逊,并获得了漏洞奖励。该研究提出了一种自动化系统,通过标记潜在广告违规来增强 Alexa 的审核流程,展示了微调 LLM 在语音平台政策执行中的潜力。本文适合语音平台安全研究人员、策略制定者及语音应用开发者阅读。

💡 推荐理由: 智能语音助手广告合规问题日益重要,该研究首次大规模揭示 Alexa 平台广告违规普遍性,并展示 LLM 在自动化检测中的应用,为平台安全审核提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Guoming Zhang, Xiaoyu Ji 0001, Xinfeng Li, Gang Qu 0001, Wenyuan Xu 0001

本文关注针对语音助手的 DolphinAttack(不可听语音命令攻击),该攻击将可听语音调制到超声波上,从而无声地注入恶意命令,例如控制智能门锁或音箱。由于攻击利用了超声波的人耳不可听特性,且不需要物理接触,传统方法难以防御。现有防御方案通常需要修改麦克风硬件,成本高且兼容性差。为此,作者提出 EarArray,一种轻量级的软件防御方法,无需额外硬件或硬件改动,仅利用智能设备上已有的多个麦克风阵列。其核心原理是:超声波在空气中传播时衰减速度比可听声更快,因此通过分析多个麦克风接收到的信号衰减率,可以区分正常可听声命令和调制的不可听命令。同时,基于信号到达不同麦克风的时间差和能量差异,EarArray 还能估计攻击者的方向。作者建立了声音传播模型,并在两个特制的麦克风阵列上实现了原型系统。实验结果表明,EarArray 检测不可听语音命令的准确率达到 99%,攻击方向识别准确率达到 97.89%。该工作为抵御超声波类隐蔽攻击提供了实用、低成本的解决方案,尤其适合集成在现有智能音箱、手机等设备中。

💡 推荐理由: DolphinAttack 对各类语音助手构成严重威胁,而 EarArray 仅通过软件算法即可高精度检测和定位攻击,无需硬件修改,具有高实用价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)