Benchmarking Confidential Computing Performance on NVIDIA Blackwell GPUs
本文针对NVIDIA Blackwell GPU（B200）上的机密计算性能进行了系统测量，重点评估在可信执行环境（TEE）中运行大语言模型（LLM）推理与训练所带来的性能开销。作者使用Intel TDX机密虚拟机与NVIDIA Confi
2026-08-28 归档
今日共收录 1697 条安全情报，包含 762 个 CVE，507 篇安全通告，以及 120 篇研究论文。
← 返回归档列表SeriCrypt: An LLM-Driven Context-Aware Serialization Framework for Cryptographic Protocols
SeriCrypt 提出了一种面向密码学协议的、由大语言模型驱动的上下文感知序列化框架，用于解决协议状态机学习、一致性测试和模糊测试中构造语法正确且密码学上有效的消息序列这一关键问题。与明文协议不同，密码学协议具有跨消息的复杂状态依赖和密码
Safety Does Not Compose: Non-Decaying Loop State for Autonomous LLM Agents
本文研究大型语言模型（LLM）智能体在自主循环部署场景下的安全状态组合问题。当前，LLM 智能体通常以自主循环方式运行，从单个人类目标出发，反复进行任务发现、规划、工具调用、结果验证，并在多次无人监督的迭代中持久化状态。然而，广泛使用的智能
Beyond the Editing Canvas: Evidence Divergence in OOXML-to-LLM Ingestion
该论文研究Office Open XML (OOXML) 文档在输入到大语言模型 (LLM) 时出现的证据不一致问题。随着金融、合规和检索增强生成等场景越来越多地将Word、Excel、PowerPoint文件作为LLM的一等证据，系统隐式
RedEvoAgent: Automatic Red-Teaming Agent with Experience-Driven Skill Evolution
本文提出 RedEvoAgent，一个面向 LLM 智能体的自动红队攻击智能体，旨在应对智能体在真实执行环境中被越狱后可能触发有害工具调用和持久化状态变更的严重风险。现有自动红队方法往往依赖固定攻击模板，而最新的智能体式攻击通过轨迹检索协调
LAAF: A Layered Accountability Architecture Framework for LLM Applications
本文是一篇系统性综述，聚焦于大型语言模型（LLM）在高风险领域（如医院、法庭、银行和公共服务）部署时引发的问责问题。尽管LLM输出流畅且看似权威，但常可能缺乏依据或产生错误，当这些输出导致实际损害时，责任的归属与追溯机制变得至关重要。作者遵
The Guard That Cried Wolf: How Scary Words Make Agent Guardrails Refuse Legitimate Actions
本文研究了LLM智能体中的护栏（guardrails）过度安全（over-safety）问题。护栏在LLM执行动作前进行批准或拒绝，但有时会拒绝真正安全且被授权的操作，从而阻碍智能体在实际场景中的部署。作者指出，评估过度安全非常困难：在授权
Are We Shooting Flies with Cannons? Trade-off Analysis for AI-based 5G Intrusion Detection
本文研究在5G网络入侵检测场景中，基于人工智能的检测模型在检测性能与计算成本之间的权衡。作者指出，随着AI在网络入侵检测中的广泛应用，一个关键问题浮出水面：复杂且计算开销巨大的模型是否真的值得使用？为此，他们比较了传统机器学习模型（以XGB
KubeCap: A Framework for Capability Minimization in Kubernetes via Static Analysis and LLM-Assisted Rule Inference
KubeCap 是一篇面向 Kubernetes 容器权限最小化的研究论文。Kubernetes 作为最广泛的容器编排平台，允许开发人员通过 manifest 文件管理 Linux capabilities，从而实现灵活的权限配置。然而实际
SILK: Closing the Time-of-Check-to-Time-of-Use Gap in RoT-Protected AI Systems
本文针对人工智能系统中基于根信任（RoT）的模型加载时验证所存在的时效性检查缺口（TOCTOU）问题。在传统方案中，RoT 仅在模型加载时对 DNN 权重进行身份验证，但权重在从 DRAM 经 DMA、互连、预取等路径传输到计算引擎的过程中
How Do LLM Agents Actually Get the Flag? Trace-Level Provenance for Agentic Offensive Security Evaluation
该论文针对当前基于大语言模型（LLM）的自主智能体在攻防安全评估（特别是CTF夺旗任务）中存在的评估方式缺陷展开研究。现有评估通常仅基于最终是否获得flag的二元结果或聚合得分，忽略了智能体从初始状态到获取flag的完整轨迹，因此容易将真实
Vulnerable Code Search: Transferable Attack for Code Language Models
这篇 arXiv 论文研究代码语言模型（Code Language Models, CLMs）在代码检索任务中的对抗性漏洞。可靠的代码检索对开发者效率和代码重用至关重要，但当前基于神经网络的代码搜索工具容易受到针对非功能性文本元素的对抗攻击
A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks
本文提出一种用于防御大语言模型（LLM）越狱攻击的自进化测试时防御框架。越狱攻击利用角色扮演、混淆、代码转换和多步间接提示等技术诱导模型产生有害输出。现有防御大多是静态的，部署后行为固定，无法积累防御经验或适应未见过的新策略。针对这一不足，
SkillShield: Prompt-Space Security Skills for LLM Coding Agents
该论文提出 SkillShield，一种面向 LLM 编程代理（coding agent）的提示空间安全防御方法。此类代理拥有开发者的文件读写与 shell 执行权限，恶意指令可能直接导致有害操作或功能型恶意软件生成。现有防御存在互补性局限
Closing the Gap: Automated Discovery of Secure Dockerfile Reference Standards via Semantic Clustering in Enterprise Inner Source
本文针对企业内源（inner source）环境中 Dockerfile 安全配置缺失与技术债务普遍存在的问题展开研究。在大型企业的内部代码仓库中，由于专有上下文和隔离的治理机制，直接套用开源社区的安全发现往往不可行。作者构建了一个六阶段自
NeuronFuzz: Safety Neuron Guided Fuzzing for LLM Safety Evaluation
本文提出 NeuronFuzz，一个面向大语言模型（LLM）安全评估的白盒模糊测试框架。研究背景在于：现有针对越狱攻击的自动化测试方法大多依赖响应级反馈，即每个候选提示词都需要让目标模型生成完整回复来评估攻击是否成功。这一过程计算开销大，且
Are LLM-Enhanced GNNs Privacy-Safe?
本研究（arXiv论文“Are LLM-Enhanced GNNs Privacy-Safe?”）系统性地评估了LLM增强图神经网络（GNN）在隐私攻击面前的脆弱性。近年来，大型语言模型（LLM）通过向图节点表示中注入语义信息，显著提升了G
Reassembling Distributed Risk: Trajectory-Conditioned Action Generation for Multi-Turn Agent Safety
本文提出名为 ReDiR (Reassembling Distributed Risk) 的生成时防御方法，针对工具型 LLM 智能体在多轮对话分解攻击下面临的安全风险。这类攻击将有害目标拆解为多个看似合理的请求和工具调用，只有在完整轨迹中
LMSM: LLM Security Framework Inspired by Linux Security Modules
该论文提出了一种面向大语言模型（LLM）的安全框架 LMSM（Language Model Security Modules），其设计灵感来自 Linux 安全模块（LSM）的架构分离思想。当前 LLM 服务通常叠加多层防御，但恶意提示仍可
MMJailBench: A Factorized Benchmark for Disentangling Multimodal Jailbreak Vulnerabilities
该论文关注多模态大语言模型（MLLMs）在真实世界部署中的越狱（jailbreak）漏洞问题。现有基准测试往往将恶意意图、提示框架、视觉语义和指令载体等多个因素混杂在单个越狱实例中，导致难以定位漏洞的具体来源。为此，作者提出了 MMJail