#data-valuation

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Yifan Wu, Yuchen Peng, Jiaqi Chai, Yufei Qian, Xilin Li, Ke Chen, Lidan Shou

该论文提出了 Guixu,一个面向自主 AI 代理的、以数据价值评估驱动的数据发现系统。当前自主代理在执行模型训练、决策支持等下游任务时,高度依赖外部数据,但现有数据发现系统大多停留在检索层面:它们只能从异构数据源中返回候选数据集,却无法有效估计数据对具体任务的效用、在预算约束下选择性价比最高的数据组合,也无法利用先前使用中的可信反馈。Guixu 针对这些问题设计了三条核心机制:第一,采用三阶段数据价值评估流水线,结合代理标签传播和多轮背包优化算法,实现任务感知的数据估值;第二,集成代理支付协议,支持预算受限的数据采购流程;第三,利用链上数据市场和认证信号,提供可验证的数据发现。论文通过演示展示了 Guixu 如何使代理超越基于关键词的数据集检索,转向任务感知、预算感知且可信的数据发现与采购。参会者可以交互式地探索从自然语言任务描述、多源搜索、数据价值评估到可验证交易反馈的完整工作流。该研究的主要贡献在于将数据估值、预算优化和链上认证引入代理的数据获取过程,填补了现有系统在任务效用评估和可信反馈利用方面的空白。适合关注 AI 代理数据供应链、数据市场设计、链上认证机制以及数据估值算法的研究人员、系统设计者和安全分析师阅读。

💡 推荐理由: 自主代理的数据获取日益关键,而现有检索机制缺乏任务效用与预算约束。Guixu 提出的估值与链上认证方案可能改变代理数据供应链的信任模型,影响未来 AI 系统的数据安全与合规设计。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ruei-Hau Hsu, Hsuan-Cheng Su, Yi-An Yu

联邦学习(FL)是一种去中心化的机器学习范式,允许多个参与方在不共享原始数据的情况下协同训练全局模型。由于各参与方数据质量参差不齐,如何公平地评估每个数据提供者的贡献(即数据估值)成为保障FL公平性的关键问题。现有工作常引入沙普利值(Shapley value)概念,通过测量包含或排除某本地模型参数对全局模型性能的影响来量化贡献。然而,传统的贡献度测量由聚合器或中心化验证者执行,该验证者可能受组织控制而伪造结果,导致估值不公平。本文提出一个具有强公平性的可验证数据估值框架,其核心思想是让所有参与者(数据提供者)都能独立验证贡献度测量结果的正确性,从而杜绝伪造可能性。框架基于沙普利值,但设计了一套可验证的计算协议,确保任何参与方均能对聚合器计算的估值进行校验,而无需信任中心化实体。作者通过理论分析证明了框架满足强公平性(即无法伪造或篡改估值结果)和安全性,并通过实验评估了计算和通信开销,表明其在合理资源消耗下可实现可验证性。该工作为FL中的数据估值提供了可信、公平的解决方案,尤其适用于对隐私和公平性要求高的场景。

💡 推荐理由: 联邦学习中数据估值的可信性直接影响参与方的信任和合作意愿;本方案通过可验证机制消除对中心化验证者的依赖,有效抵御恶意聚合器篡改贡献度,增强联合建模的公平性与安全性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhaoyu Wang, Pingchuan Ma, Zhantong Xue, Yuguang Zhou, Qixin Zhang, Xiaoqin Zhang, Shuai Wang

数据估值是数据市场中的核心任务,Shapley值归因用于决定买方的付款如何在数据提供者之间分配。传统上,市场运营商独立执行归因,但要求参与者和外部审计员信任无法在底层私有数据上独立重算的分数。零知识证明(ZKP)理论上可以协调隐私与可验证性之间的冲突,但现有ZK估值系统由于证明时间过长或需要公开验证集而无法满足实际市场需求。本文提出ZK-Value,一个实用的端到端ZK数据估值系统。系统通过完全协同设计的架构解决可扩展性瓶颈:(1) LSH-Shapley,一种基于局部敏感哈希的估值原语,用每个桶的碰撞计数替代昂贵的成对距离度量,显著降低计算复杂度;(2) ZK-LSH-Shapley,一个定制的ZKP协议,通过将碰撞计数编码为桶级直方图而非朴素成对张量,大幅减少见证大小,从而降低证明开销;(3) 结构性的证明系统优化,包括超预言机批处理和稀疏性跳过,进一步加速证明生成。在12个标准数据集上的实验表明,ZK-Value的估值质量与当前最先进的KNN-Shapley基线相当(AUROC差异在0.033以内),证明生成时间从数秒到数分钟,比专门设计的ZK基线快12.6到68.1倍,验证时间低于4.6秒。该工作为数据市场中隐私保护且可验证的数据估值提供了实用的解决方案。

💡 推荐理由: 安全从业者关注:ZK-Value解决了数据市场中的隐私与可验证性矛盾,使零知识证明在数据估值场景中实用化,相关技术可推广至其他需要隐私保护计算验证的场景。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)