#token-amplification

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yuanjin Zheng, Jingbang Chen

该论文研究了LLM编码代理(coding agents)中技能(skill)机制带来的新型资源滥用威胁——令牌放大攻击。技能是为编码代理扩展任务特定指令、脚本和资源的机制,但同时也创建了一个可信指令通道,可能被恶意利用。作者提出SkillBloat框架,采用两阶段方法:第一阶段在多种攻击类型条件下筛选放大机制,第二阶段通过LLM引导的全文技能重写来优化最强候选。在真实技能基准上评估,针对多种编码代理目标配置,SkillBloat实现了5.4184倍至10.1455倍的平均最佳令牌放大。消融实验表明,第二阶段的重写优化相比仅第一阶段攻击类型筛选,能一致地提升平均最佳放大效果,证明迭代优化超越了初始攻击类型选择。研究揭示技能生态系统暴露了一个与现有面向安全的技能投毒正交的实际资源放大攻击面。

💡 推荐理由: 该研究揭示了LLM编码代理技能生态中一种新的经济滥用面,可能导致令牌消耗成本激增,对依赖按量计费API的企业构成财务风险。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)