#transparent-recommender

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Muntaser Syed, Markus Zanker, Marius Silaghi

本文研究审议性民意调查(deliberative poll)中参数选择机制的可审计性问题。当提交的论证数量超出任何个人的阅读能力时,必须有一种机制决定每个选民看到哪些论点,这一过程实际上掌握了大部分决策权。现有实践常常依赖不透明的学习型排名器,使得选民无法重新计算或质疑影响其投票的曝光过程。作者提出,机制应当是一条发布的规则,基于公开可计算的证据,且参数由选民持有,并将可读性(legibility)作为可用机制的可接受性条件,而非与准确性对立的优化目标。论文将民意调查形式化为基于双极论证集(bipolar justification sets)的投票问题,从理由覆盖率、到达顺序和捕获的支持量(endorsement mass)三个维度评价候选名单(slate),并提出公民推荐器(civic recommender)的七项可检查标准,以及一个满足这些标准的规则:由关系权重函数参数化的单跳反向背书流(one-hop reversed endorsement flow)。作者构建了智能体模拟器,在约17,000个种子配对运行中记录每次投票的名单。结果显示,该规则的服务名单与标签读取上限(上界所有选择过程)仅差0.035,说明任何不受约束的排名器的优势都是有界且有限的。在仅覆盖率方面,在非退化创作下,该规则与随机名单无法区分,这归因于其无视顺序和无视慈善的仪器设计;但在其他两个指标上则以每个前缀领先,且差距随对抗性压力扩大,质量优势达到3.3倍。当合理比例的提交不包含理由时,覆盖率差距会恢复并增长。标签同质淹没(label-homogeneous flooding)在平坦权重策略下将完整性从0.81降至0.34,而在作者数量归一化下仅降至0.44,表明权重函数作为安全控制可价值10%的完整性。论文强调,排名臂之间的选择是覆盖率与质量前沿上的位置选择,只有可读的规则才能将这一选择交给受影响的人。该规则可映射至开源的点对点平台。

💡 推荐理由: 在AI系统日益影响公共决策的背景下,该研究证明可审计、用户可配置的规则能够以极小代价接近不可透明排名器的性能上限,同时抵御特定操纵攻击;对构建透明、可控的推荐与决策系统具有直接指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)