Learning to Refer: Client-Resolved Generation for Privacy-Aware Language Models
该论文关注云端大语言模型（LLM）在医疗、法律等敏感领域落地时的核心矛盾：用户必须把明文数据交给服务方推理，而现有的隐私保护方案（如同态加密、安全多方计算、差分隐私、联邦学习、表征加噪等）普遍存在明显短板——要么以牺牲任务效用为代价，要么带
#data-minimization
共收录 9 条相关情报。
← 返回所有主题Demystifying the Privacy-Utility Trade-off in LLM Interactions
该论文关注大语言模型进入日常任务后产生的隐私与效用矛盾：用户为了让模型完成复杂任务，必须提供上下文丰富的指令，其中往往夹带姓名、地址、账号、病史等敏感信息。目前主流的隐私保护做法是在把提示词发给模型之前套用一套与上下文无关的静态规则（例如统
Zero-Knowledge Predicate Proofs Between AI Agents: A Measured, Cross-Protocol Gateway and the Source-Integrity Gap
该论文针对多智能体AI平台从试运行快速走向生产过程中代理间信任机制原始的问题。当前代理要么传输原始数据（过度共享），要么接受对方的自然语言自我声明（不可验证且易受提示注入攻击）。现有应对方案侧重于身份、可见性和事后检测，而近期提出的密码学强
Separating Disclosure from Authorization: Field-Tier Minimization for Agent Action Mediation
本文针对代理系统中动作授权与审计披露之间的根本冲突提出了一种新的架构设计。传统上，系统为了授权某个动作必须查看其原始参数，而为了审计又需要将这些参数记录在不可篡改的账本中，这导致敏感数据（如收件人、付款备注、记录标识符）被持久化存储，产生隐
ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
本文（ToolMinimize）针对LLM智能体在工具调用中过度暴露隐私敏感数据（PSD）的问题开展研究。作者通过在GPT-4o、Claude 3.5 Sonnet和Llama-3.3-70B三个生产级大语言模型上的受控测量发现，在默认提示
Model Card for OpenAI Privacy Filter
本文介绍了 OpenAI 发布的 Privacy Filter 模型卡。该模型是一个紧凑的双向 token 分类模型，用于在非结构化文本中检测和脱敏个人身份信息（PII）与密钥。它基于自回归预训练检查点，通过转换为双向带状注意力分类器，能够
Poster: Data Minimization by Construction for Trigger-Action Applications.
该论文针对触发-动作平台（TAPs）中普遍存在的数据过度收集问题，提出了一种名为 LazyTAP 的新型数据最小化范式。在现有 TAP（如 IFTTT）中，触发服务和查询服务需要将大量用户数据发送给平台，即使平台仅需其中部分属性即可完成操作
From Principle to Practice: Vertical Data Minimization for Machine Learning.
该论文针对机器学习中的数据最小化（Data Minimization, DM）原则进行了系统研究。组织在训练和部署预测模型时，往往收集大量详细的客户数据，一旦发生数据泄露，将导致隐私暴露风险。政策制定者日益要求遵守数据最小化原则，即仅收集任
\textsc{PrivScope}: Task-scoped Disclosure Control for Hybrid Agentic Systems
本文提出PrivScope，一种针对混合本地-云端智能体系统的任务范围披露控制机制。在混合智能体系统中，本地代理会收集用户请求的上下文（包括持久工作状态）以增强任务完成度，但这也导致了过度披露问题——云端负载中包含了与当前任务无关的敏感信息