#member-inference

共收录 1 条相关安全情报。

← 返回所有主题
推荐 9.5
Conf: 50%
👥 作者: Depeng Chen, Xiao Liu, Jie Cui 0004, Hong Zhong 0001

本文提出了一种基于对比学习的成员推断攻击方法 CLMIA。成员推断攻击旨在判断某个数据样本是否被用于训练目标机器学习模型,其原理是模型在有限数据集上多次训练后容易记忆训练样本。然而,现实场景中攻击者难以获得足够多带有准确成员身份标签的样本,且大部分样本实际上是非成员,导致传统攻击方法效果受限。为解决该问题,作者利用无监督对比学习训练攻击模型,仅需少量已知成员状态的样本对攻击模型进行微调即可实现有效攻击。实验采用 ROC 曲线评估,结果表明 CLMIA 在低误报率(FPR)下具有更高的真正例率(TPR),优于其他已有方案。该方法揭示了机器学习模型在数据记忆方面的隐私风险,对模型训练和部署中的隐私保护提出了新的挑战。适合关注模型隐私安全的研究人员和防御者阅读。

💡 推荐理由: 该研究展示了一种更实用的成员推断攻击方法,帮助蓝队理解模型训练数据的隐私泄露风险,为评估和设计防御措施提供参考。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)