本文(ToolMinimize)针对LLM智能体在工具调用中过度暴露隐私敏感数据(PSD)的问题开展研究。作者通过在GPT-4o、Claude 3.5 Sonnet和Llama-3.3-70B三个生产级大语言模型上的受控测量发现,在默认提示词下,81%至88%的工具调用参数包含工具运行所不必要的数据;即便添加显式隐私指令,仍有36%至76%的调用存在过度共享。现有防御手段(如允许/阻断的调用门控、信息流控制标签)无法重写参数值,而传统PII检测工具难以识别隐式PSD(例如“Memorial Sloan Kettering”作为医院名称可隐含疾病诊断)。为此,作者提出ToolMinimize中间件:它拦截工具调用,通过结合模式感知的必要性分析,对参数执行四种操作——删除、泛化、替换和截断——将参数重写为维持工具功能所需的最小数据。在307个实际工具调用上的验证表明,该方法在参数级任务有效性达到100%的前提下(TOST等价检验p<0.001,Delta=1.0),将隐私成本降低81.2%至92.0%。在25个未标注的MCP(Model Context Protocol)模式上,即使没有minimum_necessary元数据,也能降低79.0%。文章还提出可选的内容必要性层,利用LLM从本为必要的自由文本字段中剥离与任务无关的PSD,使实际LLM的降幅提升至85.1%-95.6%,作者自定义模式的降幅从71.1%提升至90.9%。系统中间延迟为1.77毫秒。该研究兼具工程实用性与学术贡献,适合LLM应用开发者、隐私工程师和AI安全研究员阅读。
💡 推荐理由: LLM智能体普遍向第三方工具发送多余隐私数据,现有防护无法重写参数。ToolMinimize提供实时、低延迟、可验证的中间件方案,能显著降低隐私泄露风险,对构建合规的智能体应用具有直接参考价值。
🎯 建议动作: 纳入内部评估