The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
自进化智能体通过观察技能执行失败来淘汰不良技能,从而保持技能库的质量。然而,当智能体依赖无参考任务的LLM作为评判者时,评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析,理论证明偏见并非简单增加噪声,而是会无声地关闭技能淘汰功能。
共收录 1 条相关情报。
← 返回所有主题自进化智能体通过观察技能执行失败来淘汰不良技能,从而保持技能库的质量。然而,当智能体依赖无参考任务的LLM作为评判者时,评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析,理论证明偏见并非简单增加噪声,而是会无声地关闭技能淘汰功能。