推荐 5.5
Conf: 50%
本文系统研究了移动图形用户界面(GUI)智能体在任务执行中面对系统权限弹窗时的权限授予能力,将该能力定义为“权限素养”(Permission Literacy)。作者构建了一个基于任务相关性和隐私风险的四级权限框架,并通过三位独立专家对评估场景进行验证。研究将Android风格的权限弹窗注入真实GUI任务,使用同步注释的截图和UI树层级,让请求者、权限、理由和可用操作对智能体可见,对四个前沿多模态大语言模型进行了评估。实验发现:在相同的Calendar任务中,仅将请求者从Calendar改为PiMusic,授权次数从26/32骤降至0/32,揭示了一种强但受任务条件的“应用信任偏差”(App-Trust Bias);而保持弹窗固定、改变任务上下文也会显著改变授权决策,表明存在系统的“任务优先覆盖”现象。进一步的干预实验显示,提示干预可以减少不必要的授予,但其有效性在不同模型间不一致,并且可能以抑制合法授权为代价。基于这些结果,文章提出将任务执行与权限授权分离是未来工作的一个有前景的设计方向。这项研究揭示了当前多模态模型在细粒度权限控制上的局限性和行为偏差,对构建安全可信的移动GUI智能体具有重要指导意义。
💡 推荐理由: 随着移动GUI智能体(如自动操作手机应用的AI代理)逐渐普及,其权限授权决策直接关系用户隐私。该研究首次系统量化了模型在权限弹窗上的“过度授权”和信任偏差,暴露出仅靠任务驱动可能导致安全风险,为智能体安全评估和权限管理设计提供了关键依据,值得所有大模型应用安全从业者关注。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)