#resource-amplification

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Junliang Liu, Ruoyu Li, Wenxin Tang, Jingyu Xiao, Zhenyu Liu, Jingheng Xu, Laizhong Cui

该论文提出了一种针对基于技能(skill-based)的大型语言模型(LLM)智能体的新型攻击方法——收敛性绕行劫持(Convergent Detour Hijacking, CDH)。在LLM智能体生态中,第三方技能通过自然语言描述供模型选择,而具体规划则依赖指令主体。这种渐进式披露设计向不可信技能发布者暴露了两个顺序控制点:一个静态技能可能将原本正确的任务引导至不必要的昂贵路径。以往研究大多将选择操纵、恶意技能指令和工具链资源放大等问题分开讨论,缺乏端到端组合分析。CDH是一种纯文本、运行时无关的攻击,它将上述阶段耦合起来:在共享语义掩护下,技能描述在模型选择阶段建立相关性,而技能主体则在规划阶段复用该相关性伪造合理依赖。攻击会吸引一个由攻击者控制的协调者技能与合法技能一同被选中,诱导无恶意技能加入一个有界绕行路径,随后重新回到原始任务路径,从而在保证任务完成的前提下放大资源消耗。作者在多种LLM后端和491个保留任务上进行了单任务和多轮条件评估。结果表明,在DeepSeek-V4-Pro上,匹配的协调者在80.02%的任务中被选中;在协调者命中的且任务完成的运行中,token消耗平均增加66.91%,端到端执行时间平均增加92.45%,而汇总任务完成率保持基本不变。该研究揭示了一个重要事实:即使任务结果正确,也不能保证轨迹完整性和成本安全。该论文适合LLM智能体安全研究者、AI系统开发者以及安全运营人员阅读,以理解智能体供应链中隐藏的资源放大风险。

💡 推荐理由: 该研究揭示LLM智能体在使用第三方技能时存在隐蔽的资源放大攻击,即使输出正确也可能导致高额成本和性能下降,提醒安全团队关注AI供应链的完整性。

🎯 建议动作: 研究跟进,建议组织评估自身LLM智能体技能供应链的风险并考虑异常检测机制。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)