推荐 3.5
Conf: 50%
随着AI代理(如自主型语言模型代理)的普及,用户面临的风险日益增加。提示注入攻击和幻觉问题可能导致代理将私人信息泄露给第三方;作为自主系统,代理还可能执行未获用户意图或授权的敏感操作(例如银行交易)。为应对这些挑战,代理安全社区已提出诸多安全系统方案,但多数专注于产品级方法,即由开发者对全体用户统一应用安全策略和权限。然而,不同用户的需求和偏好各异,因此有必要支持用户级权限策略。为了解AI代理系统如何处理用户级权限,本文调查了21个代理权限系统提案。通过审查,作者构建了一个分类法,涵盖不同系统如何在用户界面和内部指定用户级权限策略、如何从用户输入推导内部策略,以及如何在运行时强制执行这些策略。随后,作者分析了五个主流商用代理,并将其权限处理方式与文献中的代理权限系统进行对比。研究识别出文献和商用代理中存在的若干高层主题,以及多个有待未来填补的空白。本工作为代理权限系统的设计提供了系统性参考,有助于开发更安全、更贴合用户需求的代理系统。
💡 推荐理由: 本文系统梳理了AI代理用户权限管理的现状与不足,对安全工程师理解代理系统权限机制、设计更安全的代理策略具有直接参考价值。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)