#process-model

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Ali Dehghantanha, Sajad Homayoun

该论文系统性地探讨了人工智能系统的取证调查问题。随着AI系统越来越多地参与决策和行动,事后调查其行为原因、系统组件及供应链责任成为重要挑战。当前AI取证研究分散,多聚焦于特定系统类型、工件或分析技术,缺乏统一框架。作者提出以调查者的访问权限作为组织该领域的起点,区分白盒、灰盒和黑盒三种访问模式,并分析每种模式对证据收集、保存、分析和报告的影响。基于此,论文提出一个跨越收集、保存、分析和报告四个阶段的AI取证过程模型矩阵,并引入AI系统挥发性顺序(order of volatility),涵盖运行时状态、上下文窗口、日志、检索库、模型工件和训练谱系。进一步,作者推导出访问条件化的检查框架,并识别若干开放研究问题,包括黑盒证据保存、模型版本证明、基于替代模型分析的不确定性量化、以及可变AI工件的监管链。该论文的主要贡献在于:为AI取证建立一个结构化的研究议程,强调访问权限作为核心分类维度,并整合既有分散研究。适合数字取证研究者、AI安全工程师以及负责AI事故响应的蓝队人员阅读,可作为建立内部AI取证能力的理论起点。

💡 推荐理由: AI事故调查目前缺乏系统方法论,该论文提供的访问感知过程模型可直接指导蓝队构建AI取证流程,特别是黑盒场景下的证据保全与责任追溯,对实际安全运营有基础性价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)