The Missing Boundary: How Autonomous Agents Lose Control
该论文研究自主智能体在长程任务中「越界」的成因。智能体越来越多地使用工具、维护持久状态并执行有实际后果的动作，随之而来的根本问题是：在什么条件下，一个仍在追求合法任务的智能体会越过「已授权执行」的边界？已有研究通常把这类失控归因于对抗性指令
#context-management
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文研究自主智能体在长程任务中「越界」的成因。智能体越来越多地使用工具、维护持久状态并执行有实际后果的动作，随之而来的根本问题是：在什么条件下，一个仍在追求合法任务的智能体会越过「已授权执行」的边界？已有研究通常把这类失控归因于对抗性指令