#permission-scoping

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Halil Burak Noyan

企业级AI代理通常被授予静态凭证集,以便在配置时拥有完成任务所需的所有工具。这种持久的过度权限扩大了攻击面。本文提出,能力范围界定必须遵循动态最小权限原则,并将其作为检测机制之前的预防机制。一个在代理上下文中不存在的凭证,无论代理的推理或规避能力如何,都无法被滥用。作者概述了一种实现该原则的三源架构:基于角色的上限、任务上下文分类器以及策略衍生的组合禁止,从而形成针对LLM代理失准和滥用的分层主动防御。该架构同时支持强制执行和仅观察部署;后者记录与任务上下文不一致的代理权限请求,产生可用于失准研究的行为信号。作为评估该架构的第一步,作者贡献了一个基于多部门公司政策的600条企业任务提示的合成数据集,并用15种可映射到可部署凭证或可执行护栏的工具分类法标记了最低所需权限。该数据集通过两阶段流程构建,将提示生成与权限标记分离以避免循环,并针对60条记录/688个决策的人工审查样本进行了验证(审查前Cohen's κ=0.917,审查后κ=0.967)。在数据集与策略之间的迭代使上限违规从46次减少到3次,降低了93%。这表明,当合成提示生成与策略优化协同开发时,可以推动策略改进。数据集、环境规范和生成流程已发布,以支持动态范围界定机制的评估。本文适合AI安全研究员、企业架构师和安全工程师阅读。

💡 推荐理由: 当前企业AI代理普遍存在权限过大问题,本文提出的动态最小权限原则和三源架构提供了可落地的预防机制,能显著减小攻击面,且附带数据集支持评估,对提升LLM应用安全性具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)