#sociotechnical

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Prachi Chaturvedi, Shahnawaz Ahmad, Ehsan Nowroozi, Muhammad Waqas, George Loukas, Alireza Jolfaei, Lucas Cordeiro, Pierre Dantas

该论文针对大型语言模型(LLM)在医疗、司法、金融和公共服务等高风险领域应用中出现的责任归属问题,提出了一种分层责任架构框架(LAAF)。研究背景是:LLM 在这些场景中即使输出缺乏依据或内容错误,也常被当作权威信息,一旦造成损害,难以明确谁应负责以及通过何种机制进行追溯、解释和处置。作者遵循 PRISMA 指南,检索了 2022 年 1 月至 2026 年 3 月间的五个数据库,围绕四个综述问题,从 4512 篇记录中筛选出 122 项主要研究,并纳入 12 份监管与标准文件作为一手资料进行分析。综述将责任概念整合为一种社会技术视角下的“行为者-论坛”关系,分解为五个维度,并从四类机制(技术控制、人类监督、组织治理、文档与可追溯性)中综合出具体做法,同时评估了各类机制的成熟度。作者提出了一个四层分类模型,涵盖来源/出处、应用逻辑、人类监督、治理与救济,并与可追溯性、角色清晰度和持续监控等横切维度相结合。该模型被映射到欧盟《人工智能法案》(高风险义务自 2026 年 8 月 2 日起适用)、NIST AI RMF 及其生成式 AI 配置文件、ISO/IEC 42001 以及医疗、消费金融、教育和公共部门的行业指南上。分析揭示了四个持续存在的差距:人类监督的规范不足、缺乏共享的责任度量指标、学科之间脱节、实证评估有限;同时指出了五个测量工具均未解决的结构性张力。最后,作者将分类模型整合为 LAAF 框架,并将网络安全维度与 OWASP LLM Top 10(2025)对齐。论文明确指出 LAAF 是对现有证据的综合而非经过验证的工件。适合关注 AI 治理、负责任 AI、LLM 安全性和监管合规的研究者、政策制定者及安全架构师阅读。

💡 推荐理由: 该综述系统梳理了 LLM 应用中的责任追踪与治理机制,并映射到 EU AI Act、NIST AI RMF 等关键法规,为安全团队理解合规要求、设计可追溯审计链路提供了结构化参考,是连接 AI 安全与组织治理的实用框架。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)