#query-efficiency

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Dongdong Zhao, Jinrong Hu, Changtian Song, Jian Chen, Hongmin Wang, Baogang Song

本文针对黑盒成员推理攻击(MIAs)中存在的查询效率问题,提出了一种预查询样本选择框架PSS-MIA。传统的黑盒MIAs对所有候选样本不加区分地进行查询,导致大量查询成本浪费在信息量低的样本上,且增加了查询暴露风险。作者首先定义了问题:哪些候选样本值得查询?PSS-MIA分为两个阶段:第一阶段使用提出的Loss-Gap Ranking(LGR)方法,通过参考模型计算候选样本的损失差(loss gap),估计其成员信号强度,据此对样本排序并筛选出子集;第二阶段仅对选中的样本进行目标模型查询,并将返回结果用于任意现有的黑盒MIA方法。在CIFAR-10、CIFAR-100和CINIC-10数据集上,结合五种代表性黑盒MIA方法(如LiRA、RMIA等)的实验表明,PSS-MIA在保持或提升推理精度的同时,显著降低了查询预算:在0.1%假阳性率(FPR)约束下,分别节省至少83.1%、60.6%和80.4%的查询次数。研究贡献在于提出了一个通用、即插即用的样本选择框架,揭示了样本非均匀成员信号特性,并提供了理论上的排序依据。适合关注机器学习隐私攻击与防御的研究人员、模型发布者以及AI审计团队阅读。

💡 推荐理由: 该研究揭示了成员推理攻击中查询资源的非高效利用问题,提出的预选择框架可被防御方反向利用来设计更高效的对抗措施或降低自身模型被攻击时的暴露风险。

🎯 建议动作: 研究跟进,评估该框架对自身模型成员推理攻击风险的增强效果,并考虑部署查询日志分析以检测异常样本选择模式。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)