#voice-phishing

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Fred Heiding, Claudio Mayrink Verdun, Simon Lermen, Andrew Kao, Vitor Albiero, Lauren Deason, Irina-Elena Veliche, Christine Lehane

该研究通过大规模问卷调查(N=4100)和定性访谈(N=12),评估了美国成年人面对AI驱动的语音钓鱼攻击的脆弱性。研究人员利用先进的语音模型(包括Llama Full Duplex、Sesame、Gemini、OAI AVM、Play.AI和ElevenLabs)生成了五种典型钓鱼场景的音频或文字记录(如亲人求救、银行诈骗等),并与人类诈骗者的基线表现进行对比。结果显示,在“亲人困境”类别中,高达36%的参与者表示可能或肯定会遵从诈骗要求;总体遵从率为16.5%。通话说服力是预测遵从的最强因子,其中Sesame模型的表现甚至略超人类。经济分析表明,尽管人工语音钓鱼在美国薪资水平下无利可图,但AI驱动的语音钓鱼对多种模型已具备经济可行性。论文指出,当前AI语音钓鱼的主要风险源于自动化的经济学优势,而非全新或超人的说服技巧,但对未来的系统不能排除这种可能性。该研究为AI系统设计、消费者保护和模型发布政策提出了重要警示。

💡 推荐理由: AI语音合成与LLM结合使语音钓鱼自动化成为可能,且经济上可行,可能大规模威胁公众安全,需提前制定防范策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)