CIG-MIA: Context-Induced Information Gain Membership Inference Attacks against Retrieval-Augmented Generation
该论文研究的是针对检索增强生成(RAG)系统的知识库成员推断攻击(Membership Inference
#privacy
共收录 546 条相关情报。
← 返回所有主题AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems
这是一篇来自 arXiv 的立场/愿景论文（vision paper），作者为 Murat Kantarcioglu，归类于 cs.AI 与 cs.CY。论文指出，AI 系统正快速成为医疗、金融、公共服务等安全关键（safety-criti
Transparent Identity Verification Approach Using MPC and Efficient Credential Status Handling
该论文针对数字身份验证（eKYC）场景中隐私保护与效率难以兼顾的问题展开研究。作者指出，现有基于零知识证明（ZKP）的 eKYC 框架存在计算开销高、电路设计僵化、集成复杂以及链上验证成本昂贵等缺陷；同时，W3C 2021 提出的基于 Bi
Don't Trust the Super-App: A Case Study of Russia's Max
本文针对超级应用(super-app)这一新兴移动架构展开安全与隐私分析。超级应用在单一宿主 App 内运行第三方 mini-app(小程序),使用户在一个入口内获得多种服务。过去十年的超级应用生态安全研究几乎都默认宿主是「可信中介」,本文
Demystifying the Privacy-Utility Trade-off in LLM Interactions
该论文关注大语言模型进入日常任务后产生的隐私与效用矛盾：用户为了让模型完成复杂任务，必须提供上下文丰富的指令，其中往往夹带姓名、地址、账号、病史等敏感信息。目前主流的隐私保护做法是在把提示词发给模型之前套用一套与上下文无关的静态规则（例如统
Empirical Evaluation of Membership Inference Attacks on NLP Text Classifiers: A Baseline Study on SST-2
该论文针对自然语言处理中的训练数据隐私风险，系统评估了成员推断攻击（Membership Inference Attack, MIA）在文本分类任务上的实际威胁。MIA 的目标是判断某条具体记录是否被用于训练某个模型；在 NLP 场景下，训
CARTS: Contextual Autoregressive Rank Transcoding Steganography for Full-Capacity Keyed Text Encoding
本文研究的是如何利用自回归语言模型构建隐蔽通信信道的问题。其核心观察是：自回归模型在生成每个 token 时，会对候选 token 形成一个按概率排序的"秩"（rank）分布；如果在生成过程中保持每个位置上被选中 token 的相对秩不变，
SoK: Privacy Attacks on Machine Learning via Explainable AI
该论文是一篇系统性综述 (SoK), 聚焦于一个长期被分散讨论的安全议题: 可解释人工智能 (XAI) 所输出的解释信息, 如何反过来成为攻击者窃取模型机密与训练数据隐私的入口。作者指出, 机器学习解释原本用于提升模型透明度, 但它揭示的是
Execution-transcript privacy for fault-tolerant surface-code memories
该论文研究容错量子计算机在运行过程中产生的遥测流（syndrome 测量、decoder 决策、reset 与时序记录）是否会泄露逻辑输入，即执行记录（execution transcript）的隐私问题。作者针对固定调度下运行 T=Θ(d
When Topology Betrays Privacy: Lattice-Based Reconstruction Attacks on Secure Aggregation in Decentralized Federated Learning
本文研究去中心化联邦学习（DFL）中安全聚合（Secure Aggregation, SA）的隐私泄露问题。在DFL中，每个节点与其邻居进行局部聚合，安全聚合通常被实例化为局部邻居聚合，即每个节点仅获得其邻居的加权聚合结果，而隐藏个体更新。
ZK-eSIM: A Privacy-Centric Zero-Knowledge Approach for eSIM Provisioning
本文提出 ZK-eSIM，一种面向 eSIM 远程配置（GSMA RSP）流程的隐私保护重设计方案。现有 RSP 在配置文件订购和下载阶段会暴露长期标识符，例如稳定的设备标识符 EID、配置文件标识符以及长期证书材料，使得移动运营商和配置文
5GDescrambler: Locating, Descrambling, and Decoding 5G Scheduling Information (long version)
该论文针对 5G NR 网络中通过侧信道实现用户追踪的研究。此前已有工作利用弱运营商配置泄露网络参数（如无线网络临时标识符 RNTI 或加扰因子 N_ID），或者通过低效的暴力破解方式解析下行控制信息（DCI），从而实现对用户的识别、实时活
Enhancing Privacy, Neglecting Harms: An Analysis of Real-World Digital Privacy Incidents
该论文针对现实世界中的数字隐私事件展开实证研究，旨在评估隐私增强技术（PETs）的目标与能力是否与用户实际遭受的隐私伤害相错位。作者从新闻媒体中收集了257起真实隐私事件作为样本，采用内容分析法对这些事件进行系统编码，并据此提出了一种新的信
CIPHER: Benchmarking Cross-record Inference over Privacy-Hardened Evidence Records
CIPHER 是一个面向隐私脱敏证据记录上的跨记录推理基准测试。在金融、医疗和执法等真实场景中，推理往往需要同时结合结构化属性（如表格字段）与自由文本叙述中的非结构化证据，而隐私保护措施（如脱敏、替换）会进一步增加推理难度。现有数据集大多只
Exact Record Omission in Delta Attention: A Transport Criterion, Its Cost, and a Replay Certificate
本论文研究大型语言模型中精确删除用户数据记录的问题。在具有循环记忆或混合架构（如线性注意力模型）中，数据记录被折叠进模型状态，用户请求删除时，模型的状态必须与从未存储该记录的状态一致才算完全遗忘。独立编码的行可以轻松移除，但循环记忆中的记录
Inevitability of Encrypted Traffic Side-Channel Leakage in the Multi-Class Setting
加密流量虽能保护内容，但仍会泄露通信模式，攻击者可据此进行网站指纹等侧信道识别。此前二元情形下的侧信道存在性定理仅能证明两分类间有互信息，无法推广到多分类，也未纳入主动防御（如流量整形）。本文将定理扩展到 k 类场景：利用每类分解 I(X;
Systematic Assessment of Tabular Data Synthesis.
该论文围绕表格数据合成技术展开系统评估。数据合成被视为在保护数据隐私的前提下利用数据的重要手段，近年来涌现出大量表格数据合成器（synthesizers），其中部分满足差分隐私（Differential Privacy）约束，另一些则仅基于
Mosformer: Maliciously Secure Three-Party Inference Framework for Large Transformers.
该论文提出 Mosformer，据称是首个支持大型 Transformer（如 BERT 和 GPT）的恶意安全三方计算（3PC）推理框架。基于 Transformer 的模型在众多 AI 任务中表现优异，但当以云推理服务形式部署时，用户输
Automated Expansion of Privacy Data Taxonomy for Compliant Data Breach Notification.
该论文聚焦于隐私合规研究中一个关键难题：如何将实际数据使用场景中的具体数据项与法律法规、政策或企业内部规则所定义的隐私数据进行系统化比较。由于不同应用程序使用的数据项高度多样，且不同司法辖区对隐私数据的界定存在差异，这一比对工作非常复杂。为
Diffence: Fencing Membership Privacy With Diffusion Models.
本文提出了一种名为 DIFFENCE 的新型成员推理攻击（MIA）防御框架，核心思路是利用生成式模型在推理前对输入样本进行“再生成”，从而抹除训练集成员与非成员输入之间的可区分特征。传统防御要么在训练阶段修改模型、要么在推理后修改输出，而