#voice-assistant

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Aafaq Sabir, Abhinaya S. B., Dilawer Ahmed, Anupam Das 0001

本文对亚马逊 Alexa 平台上的广告行为进行了首次大规模分析,研究了智能语音助手生态中广告的普遍性、特征及对平台政策的合规性。研究背景是随着智能语音助手(如 Alexa)的快速普及以及大型语言模型驱动助手的潜在增长,平台引入“广告 ID”使得广告不可避免。Alexa 虽允许第三方开发者在其语音应用(技能)中包含广告,并制定了广告政策,限制在技能响应、通知或提醒中插入广告(特定情况除外),但开发者是否遵守政策或试图绕过审核发布违规广告仍不明确。作者提出了一种自动化广告检测方法,利用微调的大型语言模型(LLM)在识别广告方面达到 88.92% 的准确率,并采用链式思考(CoT)提示将识别潜在违规广告的准确率提升至 94.52%。通过对 45,477 个 Alexa 技能进行分析,发现 13.58% 的技能包含广告或推广内容,主题集中在旅游和娱乐等领域。值得注意的是,部分广告来自亚马逊推广的机构(如 Vixen Labs)开发的技能,另一些则来自专注于语音助手平台的机构(如 Skilled Creative)。模型识别出约 29.18% 的广告可能存在政策违规。作者将发现报告给亚马逊,并获得了漏洞奖励。该研究提出了一种自动化系统,通过标记潜在广告违规来增强 Alexa 的审核流程,展示了微调 LLM 在语音平台政策执行中的潜力。本文适合语音平台安全研究人员、策略制定者及语音应用开发者阅读。

💡 推荐理由: 智能语音助手广告合规问题日益重要,该研究首次大规模揭示 Alexa 平台广告违规普遍性,并展示 LLM 在自动化检测中的应用,为平台安全审核提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Guoming Zhang, Xiaoyu Ji 0001, Xinfeng Li, Gang Qu 0001, Wenyuan Xu 0001

本文关注针对语音助手的 DolphinAttack(不可听语音命令攻击),该攻击将可听语音调制到超声波上,从而无声地注入恶意命令,例如控制智能门锁或音箱。由于攻击利用了超声波的人耳不可听特性,且不需要物理接触,传统方法难以防御。现有防御方案通常需要修改麦克风硬件,成本高且兼容性差。为此,作者提出 EarArray,一种轻量级的软件防御方法,无需额外硬件或硬件改动,仅利用智能设备上已有的多个麦克风阵列。其核心原理是:超声波在空气中传播时衰减速度比可听声更快,因此通过分析多个麦克风接收到的信号衰减率,可以区分正常可听声命令和调制的不可听命令。同时,基于信号到达不同麦克风的时间差和能量差异,EarArray 还能估计攻击者的方向。作者建立了声音传播模型,并在两个特制的麦克风阵列上实现了原型系统。实验结果表明,EarArray 检测不可听语音命令的准确率达到 99%,攻击方向识别准确率达到 97.89%。该工作为抵御超声波类隐蔽攻击提供了实用、低成本的解决方案,尤其适合集成在现有智能音箱、手机等设备中。

💡 推荐理由: DolphinAttack 对各类语音助手构成严重威胁,而 EarArray 仅通过软件算法即可高精度检测和定位攻击,无需硬件修改,具有高实用价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)