Compositional Threat Analysis of Latent Compromise in LLM Agent Systems: The Order 66 Scenario

该论文借鉴虚构作品《星球大战》中的“第66号令”情节，提出了一种针对使用工具的LLM代理系统的组合式威胁分析框架。作者指出，在真实系统中，灾难性后果往往并非源于单一强大指令，而是由多个看似无害的组件组合触发：一个被部署的工件或共享内存中潜伏

历史摘要 · 未重新核验 · arXiv cs.CR