推荐 3.5
Conf: 50%
机器学习系统在特定子群上表现不佳时,受影响的用户通常无法自行纠正这些差异,只能依赖平台层面的修复。现有算法公平性方法主要采用提供者为中心的策略,用户面对不公时缺乏外部杠杆。近期算法集体行动研究表明,协调的用户可以引导算法系统朝向集体目标,但现有机制要求提供者在集体修改的数据上重新训练,用户可能无法控制。为此,本文提出测试时集体行动(Test-Time Collective Action, TTCA)框架,允许共享对平台查询访问的用户群体在无需参与平台训练循环的情况下,纠正服务不足子群所遭受的差异。TTCA 通过一种基于代理的机制实现:集体汇集对黑盒 API 的查询访问以提取平台的代理模型,然后针对代理优化每个类别的通用扰动。每个成员在提交时将自己的输入应用该扰动,无需平台合作。在 CIFAR-10、CIFAR-100 和 FairFace 数据集上的实验表明,规模适中的集体可以弥补大部分子群准确率差距;该扰动可跨架构迁移(小代理可以攻击更大的平台),并能提高最差组准确率、平等机会差距和差异影响。查询预算分析显示,与每个用户单独进行黑盒攻击的基线相比,集体池化比单独攻击成本更低。因此,测试时集体行动为平台侧修复不可用或延迟时提供了一种用户端的纠正干预手段。
💡 推荐理由: 为用户提供了在平台不配合时主动纠正算法不公的攻击性方法,挑战了公平性只能由提供者实现的传统观点。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)