推荐 3.6
Conf: 50%
本文针对智能体式 AI(agentic AI)系统的审计独立性问题,提出了一套分级审计协议。当前智能体系统能够自主规划、调用工具并在有限监督下行动,它们既是被审计对象,也越来越多地充当审计者;然而作为保证体系基石的“独立性”仍被当作二元属性(独立或不独立)处理。作者主张独立性必须沿三条正交轴分级:(1) 委托方独立性——谁控制审计者;(2) 基座独立性——当审计方与被审计方共享同一基础模型家族、工具链或防护护栏时,审计者会与被审计者一同失效(共因失效);(3) 证据独立性——证据是可被第三方证实的(attestable)还是仅由被审计方自报的。三条轴各自均有先例可循,本文的贡献在于在同一次审计中同时为三者赋级、按“最弱环节”进行聚合,并在审计者本身也是智能体时套用同一评分准则。为给模型形式化基础,作者将可靠性工程中的共因失效 beta-factor 模型移植过来,给出一个七步审计协议,其输出可由第三方验证;对某采购控制类智能体在三个审计等级下做了结构性可探测性分析;并用蒙特卡洛方法研究该模型——一次常规的智能体内审(真实审计团队、第二个智能体、供应商日志)只能暴露其理论上可见故障的约 5.9%,且在一半的故障类别上完全无法暴露任何故障。最后,作者将这套三元框架映射到修订后的欧盟 AI 法案、ISO/IEC 42006、英国公共部门风险管理指南以及审计监管机构实践,说明其合规落点。
💡 推荐理由: 智能体既当被审计对象又当审计者已成现实,“形式独立、实质共因失效”是最容易被忽略的盲区。该工作给出可操作的三轴分级与最弱环节聚合方法,对 AI 治理、模型风险管理与第三方审计采购有直接参考价值。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)