When Safe Skills Collide: Measuring Compositional Risk in Agent Skill Ecosystems
该论文研究了LLM代理系统中一个核心安全问题:即使每个独立的技能(skill)本身是安全的,将它们组合成技能集(skill set)后是否可能产生不安全的行为。作者提出了SkillReact框架,这是一个组合安全测量框架,包含三个部分:确定
共收录 1 条相关情报。
← 返回所有主题该论文研究了LLM代理系统中一个核心安全问题:即使每个独立的技能(skill)本身是安全的,将它们组合成技能集(skill set)后是否可能产生不安全的行为。作者提出了SkillReact框架,这是一个组合安全测量框架,包含三个部分:确定