Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
#membership-inference
共收录 47 条相关情报。
← 返回所有主题Auditing the Privacy of Synthetic Gene Expression Data: A Unified Weighted-Distance Framework for No-Box Membership Inference
合成基因表达数据被视为受控访问基因组库的隐私保护替代方案，但其隐私安全性必须通过实证审计验证。成员推断攻击（MIA）通过判断某患者的基因表达谱是否参与生成模型训练来完成这一审计。本文针对 ELSA Health 2026 挑战赛发布的、源自
Calibrating One-Round Membership Inference with Neighbors
该论文研究成员推断攻击(Membership Inference, MI)在“单轮(one-round)”设定下的信号校准问题。当前最先进的 MI 方法依赖参考模型(在排除目标样本的数据上训练的辅助模型)对每个样本单独进行逐样本校准,从而得
Near-Duplicate Families Break Exact-Record Membership Inference
该论文研究成员推理（Membership Inference, MI）在近重复家族（near-duplicate families）存在时的失效问题。MI 用于判断某条记录是否出现在模型训练集中，正被越来越多地用于数据溯源和版权审计。这类应
Leaky Students: Membership Inference against On-Policy Distillation
该论文研究的是「在线策略蒸馏（On-Policy Distillation, OPD）」场景下的成员推断攻击（Membership Inference）。OPD 的训练方式与传统蒸馏不同：它让学生模型在自己生成的轨迹上，去匹配教师模型给出的
Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models
该论文针对视觉语言模型（VLM）在隐私敏感与带宽受限场景下的视觉问答（VQA）任务，提出名为 QPriv-VL 的「问题引导式、隐私感知」视觉 token 剪枝框架。研究背景是：联邦学习（FL）、拆分学习（SL）与 U 型拆分学习（USL）
CIG-MIA: Context-Induced Information Gain Membership Inference Attacks against Retrieval-Augmented Generation
该论文研究的是针对检索增强生成(RAG)系统的知识库成员推断攻击(Membership Inference
Predicting Privacy Leakage from Weight Spectral Density
本论文关注机器学习模型隐私审计的可扩展性问题。成员推理攻击（MIA）是评估模型是否泄露训练数据隐私的主流手段，但当前最先进的攻击需要训练大量计算昂贵的影子模型（shadow models），成本和算力开销极高，导致对大规模模型库或频繁迭代的
Empirical Evaluation of Membership Inference Attacks on NLP Text Classifiers: A Baseline Study on SST-2
该论文针对自然语言处理中的训练数据隐私风险，系统评估了成员推断攻击（Membership Inference Attack, MIA）在文本分类任务上的实际威胁。MIA 的目标是判断某条具体记录是否被用于训练某个模型；在 NLP 场景下，训
Detectable Only Where It Is Confounded: What Verified Duplication Counts Say About Membership Evidence in Language Models
这篇论文审视大语言模型成员推断（membership inference）证据的可靠性。传统做法是：若模型对某句子预测代价异常低（困惑度低），就推断它出现在训练数据中；但几乎所有已发表的此类检验都必须猜测哪些句子是训练集成员、哪些不是，这种
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
该论文关注差分隐私（DP）合成文本发布中的残余隐私风险审计问题。合成数据被越来越多地提议作为敏感真实数据的替代品发布，即使通过DP对最坏情况隐私泄露提供理论保证，实践中仍存在残余风险。现有的成员推断攻击（MIA）审计只测量随机抽取记录的平均
SoK: Privacy Attacks on Machine Learning via Explainable AI
该论文是一篇系统性综述 (SoK), 聚焦于一个长期被分散讨论的安全议题: 可解释人工智能 (XAI) 所输出的解释信息, 如何反过来成为攻击者窃取模型机密与训练数据隐私的入口。作者指出, 机器学习解释原本用于提升模型透明度, 但它揭示的是
Diffence: Fencing Membership Privacy With Diffusion Models.
本文提出了一种名为 DIFFENCE 的新型成员推理攻击（MIA）防御框架，核心思路是利用生成式模型在推理前对输入样本进行“再生成”，从而抹除训练集成员与非成员输入之间的可区分特征。传统防御要么在训练阶段修改模型、要么在推理后修改输出，而
Privacy Leakage in Federated Learning: Gradient-Based Client Identity Inference and Defenses for Inertial Sensing in Vehicular Edge Networks
本文研究车联网边缘智能场景下联邦学习（FL）的隐私泄露问题。虽然FL被普遍视为保护原始传感器数据的隐私方案，但客户端上传的模型更新（梯度/权重增量）仍可能泄露客户端身份，破坏V2X安全关键应用所依赖的匿名性，并增加对抗机器学习、模型中毒和后
Hearing the Whispers: Black-Box Membership Inference Attacks on Finetuned TTS Models
文本转语音（TTS）基础模型正越来越多地被用于在私有数据集上微调以合成高度个性化的声音，但这同时引入了严重的隐私风险，因为语音既包含生物特征身份又包含敏感语音内容。现有的黑盒成员推理攻击（MIA）通常采用查询生成和表示工程两阶段流程，但直接
Membership Inference in Fine-tuned Diffusion Language Models via Token-level Memorization Asymmetry
该论文关注扩散语言模型（DLMs）的隐私风险，这类模型作为自回归语言模型的替代方案，具备并行生成与双向上下文建模等优势，但其成员推理攻击等隐私问题尚未被充分研究。作者首先通过扩散训练动力学的理论分析，识别出一种称为“token级记忆不对称性
Bounds on the Posterior-to-Prior Ratios for Inclusion Belief under Bounded Differential Privacy
差分隐私已成为隐私保护数据发布的标准技术，但其与具体披露风险之间的关系并不直观。特别是在成员推理场景下，一个对手在观察到差分隐私保护后的发布数据时，其对某个目标个体是否被包含进数据集的信念（后验信念）相比先前信念（先验信念）会发生多大变化，
Practical Blind Membership Inference Attack via Differential Comparisons.
本文提出了一种实用的盲成员推断攻击方法（Blind Membership Inference Attack），针对机器学习模型的隐私泄露问题。成员推断攻击旨在判断某个具体数据样本是否被用于训练目标模型（如深度神经网络），从而直接威胁用户隐私
Membership is Ownership: A Robust Ownership Verification Framework for Diffusion Models
本论文针对大规模扩散模型（如 DDIM 和 Stable Diffusion）的知识产权（IP）保护问题，提出了一种新颖的模型所有权验证框架 MiO（Membership is Ownership）。研究背景是：扩散模型在训练过程中消耗大量
FISGuard: Defending Against Membership Inference via Fixed Input Subspaces
本文针对联邦学习（Federated Learning）场景下大语言模型（LLM）参数高效微调（PEFT）中的隐私泄露问题展开研究。在联邦学习中，客户端通常只共享梯度而非原始数据，但已有研究表明共享梯度仍可能泄露训练样本的成员关系（Memb