The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
该论文关注统一式多模态模型（unified multimodal models）带来的新型隐私威胁。此类模型在同一个对话上下文中既能理解也能生成文本、图像等多种模态，交互更流畅自然，但这一设计也改变了原有的隐私威胁模型：对话某一部分暴露的信
#privacy
共收录 546 条相关情报。
← 返回所有主题Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
Mitigating Private Data Leakage in LLMs with Whiteout
该论文关注大型语言模型（LLM）训练数据中的隐私泄露问题。由于现代 LLM 的训练语料规模巨大且基本未经过滤，包含从几乎所有可访问网站抓取的内容以及大量用户输入，模型往往会记住并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。
Walking the Embedding Space: Datastore Extraction from Multimodal RAG
多模态检索增强生成(MRAG)已成为将多模态大模型(MLLM)的生成能力锚定到相关、及时的外部知识的可靠且低成本手段。它在降低幻觉方面有明显收益,但同时引入了新的攻击面,包括私有信息泄露和针对数据抽取攻击的脆弱性。本文提出 IMMRAG,一
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
该论文关注大语言模型（LLM）及其 Agent 在代用户获取外部信息时衍生出的新型数据外泄风险。作者指出，现有研究主要聚焦两类威胁：提示注入，以及机密数据被发送给聊天机器人服务商；业界也提出了输入结构化、本地部署模型等缓解手段。但论文强调，
OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents
该论文研究大语言模型（LLM）智能体在调用外部工具时的隐私越权行为。作者指出，具备工具调用能力的 LLM 智能体能够访问外部服务与用户私有数据，但在实际运行中，它们往往会检索超出用户请求明确所需范围的信息。作者将这一现象命名为「主动性越权」
Is it Possible to Generate Irreversible PolyProtected Templates from Face Embeddings using System-Specific Keys?
本文研究 PolyProtect 生物特征模板保护方法在“系统级密钥”（system-specific keys）场景下的不可逆性问题。传统上，PolyProtect 使用“主体级密钥”（subject-specific keys），即每个
Sleeping Secrets: How Fine-Tuning Reawakens Privacy Risks in Language Models
该论文研究的是大模型微调过程中的隐私风险复发问题。已有研究表明，在下游微调之后，模型可能重新暴露出经过对齐或遗忘处理后已无法通过直接查询获取的私有信息（即“微调恢复攻击”）。然而，此前的方法大多依赖一个不现实的假设：攻击者能够获得与原始训练
Privacy Foundations for Multi-Institutional Scientific Artificial Intelligence
这是一篇立场/观点型（perspective）论文，讨论多机构协作开展科学人工智能时的隐私基础问题。背景是：科学 AI（从基础模型 FM 到联邦数据分析流水线）正在成为国家实验室、大学、医院与产业伙伴共同依赖的共享基础设施；这种协作产生的隐
Security Properties of Neural Networks as Decision Problems
该论文从计算复杂性角度重新审视已部署神经网络的安全认证问题。验证文献长期聚焦鲁棒性等少量性质，但作者指出实际部署中还存在一类未被系统分类的决策问题：模型是否携带训练阶段植入的后门、存储参数故障是否会把网络推入不安全状态、输出是否泄露输入中的
Link Inference Attack on Privacy-Preserving Knowledge Graphs
本文研究知识图谱（Knowledge Graph, KG）在发布环节的隐私保护假设是否成立。KG 被广泛用于医疗、金融、社交网络等敏感领域，用于存储与共享结构化信息。业界常见的隐私做法是：在对外发布图数据之前，直接删除（隐藏）敏感关系所对应
On the Relationship between Model Quantization and Model Inversion Attacks
该论文研究模型量化与模型反演攻击（Model Inversion, MI）之间的定量关系，并据此提出一种兼顾隐私与效用的训练后量化方法。研究背景是：量化通过降低神经网络权重与激活的数值精度来压缩存储与计算开销，已在边缘与部署场景广泛使用；但
OPFL: Optimistic Verification of Federated Learning via Empirical Boundary
联邦学习允许多个客户端在不共享私有数据的前提下协同训练模型，但服务器对本地训练过程缺乏可见性，既无法确认客户端是否严格遵循既定训练流程，也难以发现模型投毒等恶意更新。一种直观的验证思路是“重放”客户端训练：用相同配置重新执行训练并比对结果。
Quantization Enables Private Dense Retrieval against Malicious Service Providers
该论文研究 RAG(检索增强生成)中稠密检索的隐私与完整性问题。稠密检索通过比较查询与大规模语料库文档的稠密向量表示来召回最相关文档，是 RAG 的核心组件。在医疗、法律等隐私敏感场景中，检索通常外包给第三方服务：服务器既能看到用户明文查询
Audience-Bound Persistent Memory: Authorization Across the Memory Lifecycle
该论文研究个人语言智能体（personal language agent）跨私人与共享对话为所有者服务时的记忆授权问题：智能体可能在某一场合（audience）学到一条事实，之后在为另一场合组装上下文时把它放进模型输入，造成跨受众的信息泄露
Calibrating One-Round Membership Inference with Neighbors
该论文研究成员推断攻击(Membership Inference, MI)在“单轮(one-round)”设定下的信号校准问题。当前最先进的 MI 方法依赖参考模型(在排除目标样本的数据上训练的辅助模型)对每个样本单独进行逐样本校准,从而得
Privacy-Friendly Cohort Determination: Sealed, CSP-Independent In-Browser ML Inference of Professional Segments for Identity-Less Advertising
该论文针对 B2B 广告的定向困境提出 SIF（Sealed Inference Frame）方案。背景是：B2B 广告需要推断浏览者的职业属性（雇主规模与行业、职能、职级），传统做法依赖跨站身份匹配；但 Safari 与 Firefox
When Privacy Becomes a Weapon: Understanding Doxxing and Privacy Vulnerabilities in Mainland China's Social Media Ecosystem
本论文聚焦“人肉搜索”（doxxing，即恶意公开他人个人信息）这一日益普遍的隐私威胁，指出既有研究高度以西方语境为中心，难以解释在强制实名体系、平台治理机制与本土文化逻辑共同作用下，隐私风险与伤害路径如何被根本性重塑。为填补这一空白，作者
"Nothing to See Here'': Unintended Disclosure through Revision Traces of LLM Deliverables
该论文研究大语言模型助手在协助用户起草发给第三方的交付物时出现的一类隐私泄露问题。用户在私密草稿阶段可能先写入某个条目、随后又删除或替换它；模型虽然在目标内容中删掉了该条目，却在陈述本次编辑动作时把它重新说了出来，作者将这类语句命名为"修订
PrivacySkills: How Privacy Guidance Shapes Source Selection in LLM Agents
本文提出 PrivacySkills，一个受控评测框架，研究大语言模型智能体在信息获取路径选择上如何受隐私指引呈现方式影响。核心问题是：当多种获取路径能带来同等任务相关价值时——查询公开可得的个人信息、访问机密来源，或直接与用户交互——智能