#vulnerability-survey

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Seyed Bagher Hashemi Natanzi, Bo Tang

本文对大型语言模型(LLM)的系统化安全性研究进行了综述,创新性地从生命周期和应用栈视角分析漏洞。研究指出,LLM已从单纯的文本生成器演变为嵌入检索管道、企业助手、编码环境、机器人系统、安全操作工作流和自主代理的复杂系统,能够读取私有数据、调用工具、写入文件、执行代码并跨组织边界行动。这种转变使得安全风险不再仅来自模型权重,而是源自整个生命周期和应用栈——数据、提示、模型输出、工具、记忆和用户权限在此交互。论文将攻击组织为八个阶段:数据收集、预训练、后训练对齐、模型打包与供应链、检索与记忆、提示与推理、工具/代理执行、部署与维护。每个阶段均分析攻击者能力、受影响的安全目标、代表性攻击、实际风险、评估方法和防御措施。进一步将LLM特定漏洞映射到机密性、完整性、可用性、安全性、隐私、公平性、问责制和代理控制目标。与仅列出孤立攻击名称的分类法不同,本文的系统化强调信任边界在何处失效、非信任数据如何变为可执行指令、委托权威如何放大模型错误、以及为何点防御难以组合。最后提出安全LLM系统的研究议程,包括组合安全、溯源感知检索、工具调用遏制、长周期代理评估、隐私保护适配、现实红队测试和部署级事件响应。适合安全研究人员、LLM开发者、红蓝队工程师阅读,以系统性理解LLM安全全景。

💡 推荐理由: 本文首次以生命周期和应用栈视角系统化梳理LLM漏洞,覆盖从数据收集到部署的完整攻击面,帮助安全从业者建立全局风险认知,避免孤立看待漏洞。

🎯 建议动作: 纳入内部评估,作为LLM安全风险识别的参考框架

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)