本文提出了一种面向安全分析的大语言模型(LLM)系统生命周期模型。研究背景是:LLM 正以前所未有的规模被集成到关键基础设施和企业工作流中,但现有的生命周期框架主要面向运营效率设计,而非安全分析,导致数据来源验证、工件签名、智能体权限控制、退役处置等安全相关活动常常被隐式处理或假设会得到适当关注。同时,治理框架通常按风险等级或管理流程组织要求,却没有明确将这些要求与适用的生命周期阶段相关联。针对这两项缺陷,作者提出了一种以安全相关边界而非工作流优化为组织原则的生命周期模型。该模型包含 32 个阶段,分布在四个核心流水线层(数据、模型、分发、应用)中,并辅以包含 12 个阶段的 LLMOps 支柱和包含 9 个类别的治理支柱。其中 13 个阶段是本文新引入的独立单元,因为它们暴露了现有框架未明确区分的不同安全关注点。此外,作者构建了一个治理映射,综合了 NIST AI RMF、欧盟《人工智能法案》以及 ISO/IEC 42001,揭示出现行监管格局的一个结构性特征:治理证据集中在面向部署的阶段(这些阶段系统对监管者可见),而最关键的决策——数据选择、对齐策略和能力边界——却发生在面向开发的阶段,而这些阶段监管可见性最低。该研究的主要贡献在于提出一个显式化安全关注点的生命周期模型,并指出监管覆盖与安全关键决策位置之间的错配,为后续改进 LLM 系统的安全治理提供了依据。适合安全研究人员、LLM 系统开发者和政策制定者阅读。
💡 推荐理由: 该研究系统性地梳理了 LLM 全生命周期中的安全相关环节,并指出现有治理框架存在“重部署、轻开发”的结构性盲区,有助于安全团队在设计、开发阶段就嵌入安全控制,而不是事后补救。
🎯 建议动作: 研究跟进