Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias.
该论文题目为《Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias》，作者包括 Shir Bernstein、David Beste、Daniel
#bias
共收录 2 条相关情报。
← 返回所有主题The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
自进化智能体通过观察技能执行失败来淘汰不良技能，从而保持技能库的质量。然而，当智能体依赖无参考任务的LLM作为评判者时，评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析，理论证明偏见并非简单增加噪声，而是会无声地关闭技能淘汰功能。