推荐 5.5
Conf: 50%
该论文提出了 PiSAs(Privacy in Shared Agentic Systems)基准,用于评估多用户共享智能体系统中的隐私泄露风险。随着大语言模型(LLM)智能体从单用户助手发展为共享组织基础设施,新的隐私风险随之出现:不适当的信息不仅可能通过输出泄露给外部接收者,还可能通过智能体间消息、共享记忆和智能体内部机制在用户之间发生跨用户泄露。现有的基于上下文完整性(CI)的隐私基准主要关注单用户设置或独立拥有的智能体之间的交互,无法捕获这些数据溢出风险。PiSAs 引入了双重 CI 注释:一条信息是否适合当前任务,以及哪些用户有权合法访问它。这使得可以直接测量跨用户溢出在智能体系统组件和接口(如输出、智能体间通信和记忆)上的表现。PiSAs 与系统无关,支持在不同智能体拓扑和记忆模式下进行评估。实验发现,尽管系统设计改善了 CI 合规性,但结果受到 LLM 错误判断的瓶颈:即使是最先进的模型也无法可靠地过滤不适当内容或将传输限制在授权用户之间。研究强调了在 LLM 智能体系统中采用隐私保护策略的必要性,超越了本文所研究的范围。该基准为多用户智能体系统的隐私评估提供了标准化方法,有助于推动更安全的系统设计。
💡 推荐理由: 随着 LLM 智能体在企业环境中广泛应用,跨用户隐私泄露成为关键风险。PiSAs 填补了现有基准的空白,首次系统性地评估多用户场景下的上下文完整性,对安全工程师设计隐私保护策略具有重要指导意义。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)