Can Prompt Anonymity Protect Your Identity From LLM Providers?
该论文研究了一个在 LLM 隐私保护实践中长期被忽视的空白：现有的「匿名化 LLM 代理」方案（如剥离账号标识、通过中间代理转发）只能切断用户身份与提示词之间的显式关联，但提示词内容本身仍然原样暴露给 LLM 服务商。作者指出，服务商可据此
#llm-privacy
共收录 9 条相关情报。
← 返回所有主题PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文（PrivDrift）关注一个在真实 LLM 部署中日益普遍但缺乏系统评估的隐私问题：当用户在持续会话中主动披露敏感信息后，这些信息是否会在话题转移之后仍可被后续提示"重新提取"出来。作者指出，当前 LLM 越来越多地以持久化助手的形
Detectable Only Where It Is Confounded: What Verified Duplication Counts Say About Membership Evidence in Language Models
这篇论文审视大语言模型成员推断（membership inference）证据的可靠性。传统做法是：若模型对某句子预测代价异常低（困惑度低），就推断它出现在训练数据中；但几乎所有已发表的此类检验都必须猜测哪些句子是训练集成员、哪些不是，这种
Leak It: A Probabilistic Approach to Training-Data Extraction from Black-Box Language Models
本论文针对黑盒语言模型训练数据泄露问题，提出了基于概率视角的成员推断（MIA）审计方法，并批判了传统聚合指标（如ROC-AUC）的误导性。作者首先指出，现有的MIA评估常被无模型盲基线混淆，这类基线仅通过表面文本特征就能较好区分成员与非成员
Five Queries Are Enough: Query-Efficient and Surrogate-Free Membership Inference Attacks on RAG via Entailment
本文研究检索增强生成（RAG）系统中的成员推断攻击（MIA）问题。RAG通过将外部知识库引入LLM响应，有效减少幻觉，但同时也带来了新的隐私风险：攻击者可能通过模型输出推断检索语料库中是否存在特定文档，从而泄露敏感信息。现有MIA方法要么依
When Are LLM Inferences Acceptable? User Reactions and Control Preferences for Inferred Personal Information
本研究聚焦于大型语言模型（LLM）在对话中推断用户个人信息（如收入、病史等）所引发的隐私问题。以往研究已证明LLM能够做出潜在违反用户预期的推断，但用户对此类推断的实际感受及期望的控制机制尚不明确。为此，作者开发了“反思层”（Reflect
PrivCode: When Code Generation Meets Differential Privacy.
该论文提出了PrivCode，这是首个专门为代码数据集设计的差分隐私（DP）合成器，旨在解决大型语言模型（LLM）在代码生成时微调私有数据集可能引发的隐私泄露问题。传统的DP方法在代码数据上面临语法依赖强和隐私-效用权衡的挑战。PrivCo
Was My Data Used for Training? Membership Inference in Open-Source LLMs via Neural Activations.
本文研究了针对开源大语言模型（LLMs）的成员推理攻击（Membership Inference Attack, MIA），即判断特定数据样本是否被用于模型训练。与现有基于模型输出（如loss、logits）的MIA方法不同，作者提出利用模
On the Privacy of LLMs: An Ablation Study
大型语言模型（LLMs）在交互式和检索增强场景中日益部署，引发了显著的隐私担忧。以往的研究通常孤立地分析成员推断攻击（MIA）、属性推断攻击（AIA）、数据提取攻击（DEA）和后门攻击（BA），缺乏对它们在常见系统因素下行为的统一理解。本文