#ai-risk

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Javier Irigoyen, Roberto Daza, Aythami Morales, Julian Fierrez, Ruben Tolosana, Ruben Vera-Rodriguez, Francisco Jurado, Alvaro Ortigosa

本文综述了人工智能系统风险识别、分析与管理的系统性方法论。首先,梳理了全球范围内推动AI风险评估需求的监管格局,包括欧盟《人工智能法案》等基于风险的监管框架。其次,系统分类了文献中识别的AI相关风险谱系,涵盖从技术故障(如模型鲁棒性不足、数据泄露)到伦理与社会影响(如歧视、隐私侵犯、可解释性缺失)的多种维度。随后,重点回顾了面向AI系统的主流风险评估方法论,聚焦于通用框架(如NIST AI风险管理框架、ISO/IEC 42001等),分析了各框架的核心步骤、适用场景及优缺点。论文指出了当前AI风险评估中的最佳实践,例如分层评估、持续监控与多方利益相关者参与,同时揭示了方法论缺口(例如动态风险适应、因果关系量化、人机协作场景的特殊评估需求)。最后提出了未来研究方向,包括风险指标的标准化、跨领域迁移能力、以及与大模型风险特性匹配的评估技术。本文适合AI安全工程师、风险合规人员、政策制定者及研究人员阅读,以系统理解AI风险评估的现状与挑战。

💡 推荐理由: 随着欧盟《人工智能法案》等监管落地,系统性AI风险评估成为刚需。本文提供了当前方法论的全景图,帮助组织在合规和风险管控中少走弯路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Alex Leung, Rex Zhang, Kentaroh Toyoda, SiewMei Loh

该论文聚焦于人工智能(AI)系统中产生的损失如何进行准确重建与保险索赔。当前保险理赔主要依赖事件重建,但AI系统(尤其是生成式AI和智能体系统)具有状态依赖性,其行为随推理、检索、工具调用和自主行动而动态变化,因此需要状态重建而非简单的事件重建。论文提出了CER框架,用于用例层面的AI残余风险转移诊断。CER包含三个维度:C(控制边界),评估系统是否具有可执行的操作范围约束;E(证据重建),判断从保留的日志和工件中能否重建系统状态与因果链;R(保险响应),确定重建的损失是否属于保险覆盖范围,包括市场是否存在对应保单以及证明索赔的证据要求。论文的主要贡献包括:定义了AI特定的损失重建问题,通过CER框架将其可操作化,以及明确了用于保险理赔的AI重建证据等级。文中通过PocketOS、Replit智能体数据库删除事件以及Moffatt v. Air Canada输出依赖案例进行了实证说明。该研究适用于保险精算师、安全架构师、风险管理人员及AI治理从业者。

💡 推荐理由: 随着企业广泛采用生成式和智能体AI系统,传统的损失事件重建方法不再适用。CER框架首次系统性地从保险视角提出了AI损失重建的标准化诊断流程,有助于安全团队理解AI风险转移机制,并为保险理赔提供技术基础。

🎯 建议动作: 纳入内部评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)