Reason Less, Verify More: Deterministic Gates Recover a Silent Policy-Violation Failure Mode in Tool-Using LLM Agents

该论文研究了使用工具的LLM智能体在策略许可环境中可能出现的静默策略违反失败模式。当工具执行任何格式正确的调用时，即使对应的状态转换被领域策略禁止，工具本身和智能体的自我报告都不会暴露错误，导致静默的错误状态（如预订取消、乘客数量更改、未经

历史摘要 · 未重新核验 · arXiv cs.CR