推荐 9.4
Conf: 50%
该研究来自人机交互与隐私领域,探讨人们对“完全自动化决策”(Solely Automated Decision-Making, SADM)的理解与感受。SADM 指在没有人类实质性参与的情况下,由算法或系统独立做出对个人产生法律或类似重大影响的决策,例如信贷审批、招聘筛选、福利发放等。研究者通过质性方法(如访谈或调查)收集了普通公众对 SADM 的看法,重点关注人们如何感知、理解以及如何意识到自己正在被自动化系统决策,尤其当系统并未明确告知用户时。论文提出“How I Know For Sure”这一核心命题,揭示用户往往通过间接线索(如决策结果的突兀性、缺乏解释、无法申诉等)而非系统明示,来推断自己遭遇了自动化决策。研究还结合欧盟 GDPR 第 22 条等法律框架,分析现行法规对 SADM 的规制与实际用户认知之间的差距。主要贡献包括:系统化呈现了公众对 SADM 的认知模式;指出了现有通知与解释机制在实践中的不足;为设计更透明、可理解的自动化决策系统提供了实证依据。该论文适合关注算法公平性、可解释 AI、隐私法律合规的产品设计师、政策制定者及安全合规从业者阅读,以理解自动化决策在真实用户中的感知风险。
💡 推荐理由: 自动化决策已在安全风控、身份认证、访问控制等场景广泛落地,但用户往往无感知。了解人们如何“发觉”自己正被 SADM 影响,有助于蓝队和安全产品人员设计更透明、可审计的自动化系统,降低合规与信任风险。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)