Implicit Manipulation for Skill Selection in LLM Agents with Semantic Matching
本文研究了大语言模型(LLM)代理系统中的技能选择阶段的安全性。技能选择是决定用户请求由哪一个已安装技能来处理的关键环节。现有攻击手段主要依赖显式提示注入或指令级转向,这些方法容易暴露出可识别的操纵特征。针对这一空白,作者发现了一种新的隐式
共收录 1 条相关情报。
← 返回所有主题本文研究了大语言模型(LLM)代理系统中的技能选择阶段的安全性。技能选择是决定用户请求由哪一个已安装技能来处理的关键环节。现有攻击手段主要依赖显式提示注入或指令级转向,这些方法容易暴露出可识别的操纵特征。针对这一空白,作者发现了一种新的隐式