JITterFlip: Uncovering Fault Attack Surfaces in JIT-Compiled LLM Serving
本文提出 JITterFlip,一种针对基于 GPU 的 LLM 推理服务中 host-side JIT 编译控制平面的比特翻转攻击(BFA)。现代云上 LLM 推理服务普遍使用 JIT 编译来降低框架与 GPU 启动开销,因此引入了宿主机
共收录 1 条相关情报。
← 返回所有主题本文提出 JITterFlip,一种针对基于 GPU 的 LLM 推理服务中 host-side JIT 编译控制平面的比特翻转攻击(BFA)。现代云上 LLM 推理服务普遍使用 JIT 编译来降低框架与 GPU 启动开销,因此引入了宿主机