#dataset-auditing

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Linkang Du, Min Chen 0032, Mingyang Sun, Shouling Ji, Peng Cheng 0001, Jiming Chen 0001, Zhikun Zhang 0001

该论文提出了一种名为ORL-AUDITOR的新型数据集审计机制,专门针对离线深度强化学习(offline DRL)场景。离线DRL利用预先收集的数据集训练模型,广泛应用于自动驾驶等安全关键领域。随着高质量数据集成为AI核心资产,许多机构公开共享数据集,但面临滥用或侵权的风险。现有水印技术无法处理已发布的数据集,而数据集推理(dataset inference)和成员推理(membership inference)等方法在离线DRL中因模型行为多样性和离线约束而效果不佳。作者利用累积奖励(cumulative rewards)作为唯一标识符,能够区分DRL模型是否基于特定数据集训练。ORL-AUDITOR是首个轨迹级(trajectory-level)数据集审计机制。实验在多种离线DRL模型和任务上进行,审计准确率超过95%,假阳性率低于2.88%。论文还研究了不同参数设置对实际部署的影响,并在Google和DeepMind的开源数据集上验证了审计能力。代码已开源。该工作为保护数据集知识产权提供了新思路,适用于任何使用离线DRL数据集的场景。

💡 推荐理由: 离线强化学习数据集的知识产权保护是当前空白,该论文提出一种无需修改数据的审计方法,有助于检测模型是否未经授权使用了特定数据集,对数据提供方具有重要价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)