Efficient and Sound Probabilistic Verification for AI Agents

本文针对AI代理在复杂数字环境中的安全策略验证问题，提出了一种高效且合理的概率验证框架。现有运行时监控方法通常基于Datalog等形式语言制定确定性策略，但在实际场景中，许多安全策略涉及概率性因素，例如PII检测器或解分类器在每次调用时存在

历史摘要 · 未重新核验 · arXiv cs.CR