JEV as a Judge for Agent Trace Security: An Empirical Comparison with Generative LLM Judges
该论文研究的是「工具型智能体(tool-using agent)行为轨迹的安全判定」这一评测环节本身的可选方案问题。背景是:对会调用外部工具的智能体做安全评估,必须结合上下文判断每一步动作是否构成风险;当前主流做法是让生成式大模型充当裁判(
共收录 1 条相关情报。
← 返回所有主题该论文研究的是「工具型智能体(tool-using agent)行为轨迹的安全判定」这一评测环节本身的可选方案问题。背景是:对会调用外部工具的智能体做安全评估,必须结合上下文判断每一步动作是否构成风险;当前主流做法是让生成式大模型充当裁判(