#lifecycle

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Eleftherios Batzolis, George Drosatos, Vassilis Katsouros, Konstantinos Rantos

本文提出了一种面向安全分析的大语言模型(LLM)系统生命周期模型。研究背景是:LLM 正以前所未有的规模被集成到关键基础设施和企业工作流中,但现有的生命周期框架主要面向运营效率设计,而非安全分析,导致数据来源验证、工件签名、智能体权限控制、退役处置等安全相关活动常常被隐式处理或假设会得到适当关注。同时,治理框架通常按风险等级或管理流程组织要求,却没有明确将这些要求与适用的生命周期阶段相关联。针对这两项缺陷,作者提出了一种以安全相关边界而非工作流优化为组织原则的生命周期模型。该模型包含 32 个阶段,分布在四个核心流水线层(数据、模型、分发、应用)中,并辅以包含 12 个阶段的 LLMOps 支柱和包含 9 个类别的治理支柱。其中 13 个阶段是本文新引入的独立单元,因为它们暴露了现有框架未明确区分的不同安全关注点。此外,作者构建了一个治理映射,综合了 NIST AI RMF、欧盟《人工智能法案》以及 ISO/IEC 42001,揭示出现行监管格局的一个结构性特征:治理证据集中在面向部署的阶段(这些阶段系统对监管者可见),而最关键的决策——数据选择、对齐策略和能力边界——却发生在面向开发的阶段,而这些阶段监管可见性最低。该研究的主要贡献在于提出一个显式化安全关注点的生命周期模型,并指出监管覆盖与安全关键决策位置之间的错配,为后续改进 LLM 系统的安全治理提供了依据。适合安全研究人员、LLM 系统开发者和政策制定者阅读。

💡 推荐理由: 该研究系统性地梳理了 LLM 全生命周期中的安全相关环节,并指出现有治理框架存在“重部署、轻开发”的结构性盲区,有助于安全团队在设计、开发阶段就嵌入安全控制,而不是事后补救。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Seyed Bagher Hashemi Natanzi, Bo Tang

本文对大型语言模型(LLM)的系统化安全性研究进行了综述,创新性地从生命周期和应用栈视角分析漏洞。研究指出,LLM已从单纯的文本生成器演变为嵌入检索管道、企业助手、编码环境、机器人系统、安全操作工作流和自主代理的复杂系统,能够读取私有数据、调用工具、写入文件、执行代码并跨组织边界行动。这种转变使得安全风险不再仅来自模型权重,而是源自整个生命周期和应用栈——数据、提示、模型输出、工具、记忆和用户权限在此交互。论文将攻击组织为八个阶段:数据收集、预训练、后训练对齐、模型打包与供应链、检索与记忆、提示与推理、工具/代理执行、部署与维护。每个阶段均分析攻击者能力、受影响的安全目标、代表性攻击、实际风险、评估方法和防御措施。进一步将LLM特定漏洞映射到机密性、完整性、可用性、安全性、隐私、公平性、问责制和代理控制目标。与仅列出孤立攻击名称的分类法不同,本文的系统化强调信任边界在何处失效、非信任数据如何变为可执行指令、委托权威如何放大模型错误、以及为何点防御难以组合。最后提出安全LLM系统的研究议程,包括组合安全、溯源感知检索、工具调用遏制、长周期代理评估、隐私保护适配、现实红队测试和部署级事件响应。适合安全研究人员、LLM开发者、红蓝队工程师阅读,以系统性理解LLM安全全景。

💡 推荐理由: 本文首次以生命周期和应用栈视角系统化梳理LLM漏洞,覆盖从数据收集到部署的完整攻击面,帮助安全从业者建立全局风险认知,避免孤立看待漏洞。

🎯 建议动作: 纳入内部评估,作为LLM安全风险识别的参考框架

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Tom Barbereau, Ruggero Montalto, Christian Beyer

本文提出将区块链系统重新概念化为记录管理系统,而非单纯的交易基础设施。当前区块链研究过度聚焦于链上交易,忽略了加密货币资产创建、发布、留存、处置的完整过程。作者借鉴ISO 15489-1:2016记录管理原则,建立了区块链数据七阶段生命周期模型:创建、捕获、分类、存储、使用、保留与处置。通过对比特币、同质化代币和非同质化代币的应用案例,论证该框架的适用性。论文重点讨论了链上/链下边界以及隐私增强技术如何影响生命周期可见性,这对加密犯罪研究和调查具有特别意义。作为元层面的框架,该生命周期视角有助于定位现有研究、按阶段分解法律、监管、技术和运营挑战,并为区块链治理、分析和监管提供生命周期感知的方法。适合区块链研究者、合规分析师及监管科技从业者阅读。

💡 推荐理由: 为区块链数据治理和监管提供了系统化的生命周期视角,有助于安全分析师理解资产在各个阶段的暴露风险,尤其对加密犯罪调查和取证有指导意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Omar Alrawi, Charles Lever, Kevin Valakuzhy, Ryan Court, Kevin Z. Snow, Fabian Monrose, Manos Antonakakis

该论文对物联网(IoT)恶意软件的生命周期进行了大规模实证研究。作者收集了来自多个来源的物联网恶意软件样本(如蜜罐、公开样本库),并对其进行了长达数年的纵向分析。研究重点包括恶意软件的感染阶段(初始入侵、持久化、命令与控制通信)、传播机制(如利用漏洞、暴力破解)、以及恶意软件家族的演化关系。通过构建恶意软件行为图谱和家族聚类,作者揭示了不同恶意软件家族在代码重用、模块化设计上的共性,并量化了恶意软件存活时间、更新频率等指标。主要贡献包括:(1)首次对物联网恶意软件生命周期进行系统化、大规模的测量;(2)发现了恶意软件在传播和持久化策略上的趋势变化;(3)为防御者提供了针对性的缓解建议(如关闭未使用的端口、及时更新固件)。实验基于超过10万个样本,覆盖多个架构(MIPS、ARM、x86)。该研究有助于理解物联网威胁态势,并为安全团队制定检测和预防策略提供依据。

💡 推荐理由: 物联网设备数量激增且安全防护薄弱,本研究系统揭示了IoT恶意软件的完整生命周期,有助于安全团队理解对手的持久化与传播策略,从而设计更有效的检测和防御方案。

🎯 建议动作: 研究跟进,将论文中的生命周期特征纳入威胁狩猎规则。

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)