MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
随着大型语言模型（LLM）被部署为具备访问工具、数据库和外部服务能力的自主智能体（Agent），不同行业从业者缺乏系统的方法来评估已知威胁类别如何在特定智能体部署中转化为具体风险。本文提出MATRA，一个针对智能体AI系统的实用威胁建模框架
#threat-modeling
共收录 24 条相关情报。
← 返回所有主题Cache Me, Catch You: Cache Related Security Threats in LLM Serving Frameworks.
本文首次系统性地研究了大型语言模型（LLM）服务框架中缓存机制引发的安全威胁。随着LLM在生产环境中的广泛部署，服务框架（如vLLM、TGI等）广泛采用缓存技术（如键值缓存、前缀缓存）以降低推理延迟和成本。然而，这些缓存设计引入了新的攻击面
From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
该论文针对集成大语言模型（LLM）的自主机器人系统进行威胁建模。背景方面，虽然已有研究分别关注机器人网络安全、对抗性感知攻击和LLM安全性，但尚未有工作将这些威胁类别在一个统一架构中追踪其相互作用与传播。作者通过将基于边缘-云架构的LLM赋
Introducing the Cyber-Physical Data Flow Diagram to Improve Threat Modelling of Internet of Things Devices
提出面向物联网设备的网络物理数据流图（CPDFD）威胁建模方法，支持硬件建模，实验表明能发现更多攻击场景。