Prompt Injection Attack to Tool Selection in LLM Agents.
本文研究了大语言模型（LLM）智能体中工具选择环节的安全漏洞。在典型的 LLM 智能体架构中，工具选择通常采用“检索-选择”两步流程：先从工具库中检索候选工具，再根据任务选择最合适的工具。作者提出一种名为 ToolHijacker 的新型提
#tool-selection
共收录 2 条相关情报。
← 返回所有主题Looking Is Not Picking: An Attention-Segment Account of Tool-Selection Failures in LLM Agents
该论文研究了大型语言模型（LLM）智能体在工具选择过程中的失败机制。通常认为，模型在工具集中未能注意到正确工具是导致错误选择的原因，但论文通过注意力片段分析提出了相反的观点：模型在80%的情况下正确关注到了正确的工具，但依然做出了错误选择。