The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning
该论文研究监督微调(SFT)流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据,以降低人工标注成本,但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是:恶意用户是否
共收录 5 条相关情报。
← 返回所有主题该论文研究监督微调(SFT)流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据,以降低人工标注成本,但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是:恶意用户是否
ADS-B(自动相关监视-广播)已成为空中交通监视的事实标准,所有飞机被要求主动广播包含身份、位置和运动信息的报文。然而,ADS-B缺少安全机制,使其容易遭受有能力的攻击者的网络攻击,从而危及航空安全。本文提出一种非侵入式的信任评估系统,用
本文关注众包联邦学习(Crowdsourced Federated Learning, CrowdFL)中的鲁棒性量化问题。CrowdFL通过众包范式允许开放、异构的参与,扩展了传统联邦学习,而声誉驱动的激励机制常被用于引导工人选择并增强可
本研究针对众包平台(如Prolific和Mechanical Turk)上调查问卷参与者越来越多使用大型语言模型(LLM)辅助回答的现象,旨在量化这种行为的普遍性并探索检测与缓解方法。研究团队开展了一系列调查(样本量N=250),系统评估了
本文提出一个名为DARTIC的去中心化匿名声誉框架,旨在解决链上众包系统中匿名性、声誉绑定和可扩展性之间的矛盾。现有去中心化声誉系统通常无法同时满足这三个要求。DARTIC采用双账本系统,允许请求者和工作者在不同交互中使用不同假名,实现不可