Why Formal Monitors Fail: Attack Distribution Entropy as a Coverage Bound for LTL-Based LLM Agent Safety
本文研究基于线性时序逻辑(LTL)和有限状态自动机(FSA)的运行时安全监控器在防御大语言模型(LLM)智能体工具调用序列时的失效原因。实际部署中,同一监控器在不同模型架构上对攻击的覆盖率差异巨大:在部分架构上可达 68-75%,而在另一些
共收录 1 条相关情报。
← 返回所有主题本文研究基于线性时序逻辑(LTL)和有限状态自动机(FSA)的运行时安全监控器在防御大语言模型(LLM)智能体工具调用序列时的失效原因。实际部署中,同一监控器在不同模型架构上对攻击的覆盖率差异巨大:在部分架构上可达 68-75%,而在另一些