PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文（PrivDrift）关注一个在真实 LLM 部署中日益普遍但缺乏系统评估的隐私问题：当用户在持续会话中主动披露敏感信息后，这些信息是否会在话题转移之后仍可被后续提示"重新提取"出来。作者指出，当前 LLM 越来越多地以持久化助手的形
#context-leakage
共收录 3 条相关情报。
← 返回所有主题Context Inference Attacks Without Jailbreaks
本文研究 Agentic AI 系统在推理时处理敏感数据（如医疗记录、金融文档）时面临的隐私泄露问题。与以往主要关注通过越狱攻击直接诱导模型泄露敏感内容的研究不同，本文首次系统化地研究了 Agent 自身的工具调用所组装出的隐藏上下文（hi
Inadvertent Context Leakage in Language Models
本文研究了语言模型在上下文中持有敏感用户数据（如日历、凭证、健康记录和财务信息）时发生的意外信息泄漏问题。作者首先探索了这样一个核心问题：即使模型正确拒绝了直接的秘密提取请求，秘密在上下文窗口中的存在是否会在模型的良性输出中引入隐藏相关性，