The Gate Is Only as Honest as Its Contracts: ContractGuard for the Contract Layer of Risk-Aware Causal Gating
本文针对工具增强型大语言模型（LLM）智能体面临的间接提示注入攻击，深入分析了Risk-Aware Causal Gating（RACG）防御机制的安全假设。RACG通过从智能体的可见行动空间中移除危险工具来阻止攻击，即使智能体被完全控制也
2026-06-19 归档
今日共收录 997 条安全情报，包含 210 个 CVE，375 篇安全通告，以及 115 篇研究论文。
← 返回归档列表Understanding and Mitigating Prompt Leaking Attacks in Real-World LLM-Based Applications
该论文系统研究了基于大型语言模型（LLM）的应用程序中提示泄露（Prompt Leaking）攻击的现实普遍性、原因及防御方法。提示泄露攻击指攻击者通过精心构造的输入，诱使模型泄露开发者在系统提示中嵌入的核心逻辑、自定义约束或敏感信息（如第
CodeSentinel: A Three-Layer Defense Against Indirect Prompt Injection in Code Contexts
本文提出了一种名为 CodeSentinel 的三层推理时防御框架，用于抵御针对代码大型语言模型（Code LLM）的间接提示注入攻击。随着 Code LLM 越来越多地从外部代码上下文（如代码仓库、文档、问题线程和编码代理环境）中检索信息
Structural Role Injection in Handlebars-Templated LLM Prompts: Triple-Brace Interpolation, Delimiter Family, and the Limits of HTML Auto-Escaping
本文研究了Handlebars模板引擎在LLM提示注入中的结构性角色注入风险。Handlebars是Microsoft Semantic Kernel默认的提示模板格式，其双花括号{{x}}表达式会对插值内容进行HTML转义，而三花括号{{
FloatDoor: Platform-Triggered Backdoors in LLMs
大型语言模型（LLM）越来越多地部署在软件工程等敏感场景中，其输出直接影响下游制品。最新研究发现，同一个模型在不同部署平台（如NVIDIA GPU、Google TPU、AWS Graviton、Alibaba Yitian-710）上可能
Calibration Without Comprehension: Diagnosing the Limits of Fine-Tuning LLMs for Vulnerability Detection in Systems Software
该论文针对当前大型语言模型（LLM）在系统软件漏洞检测中的局限性进行了系统诊断。作者构建了CWE-Trace框架，包含834个手动整理的Linux内核样本，覆盖74个CWE类型，并采用严格的时间分割（2025年前的历史集与无泄露的截断后集）
LLM agent safety, multi-turn red-teaming, jailbreak benchmarks, adversarial robustness, safety-critical systems
该论文提出了NRT-Bench，一个用于评估大规模语言模型（LLM）代理在安全关键系统中鲁棒性的多轮红队测试基准。具体场景为模拟核电站控制室，其中五名操作员（每个由可配置LLM驱动）负责管理一个受六项关键安全功能（CSF）约束的电厂。攻击者
Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic
模型量化是部署深度神经网络到资源受限设备时的常用技术，可降低内存占用和推理成本。然而，近期研究发现一种新型安全威胁——量化条件后门（Quantization-Conditioned Backdoors, QCBs），其中模型在全精度下行为正
FFinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming
本文提出了一个名为FinRED的专家引导的金融大语言模型（LLM）红队测评框架。现有安全基准主要针对通用对抗性场景，忽视了金融领域的特定风险，如监管合规违规、欺诈助长和系统性信任侵蚀。该框架与金融专家合作开发，采用新颖的两级分类法，将全球标
SafeSpec: Fast and Safe LLM via Dynamic Reflective Sampling
本文提出 SafeSpec，一个面向大规模语言模型（LLM）的快速且安全推理框架。现有投机推断（speculative inference）通过草稿-验证机制加速 LLM 解码，但缺乏安全保障。传统安全防御与投机推断不兼容，要么引入额外计算
Analyzing the Narration Gap in LLM-Solver Loops
本文研究了大型语言模型（LLM）与形式化求解器（如SAT/SMT）结合的推理管道中存在的“叙述缝隙”（narration gap）问题。在安全攸关场景中，用户常将问题形式化为逻辑公式，交由求解器获得可靠答案，再由LLM将形式结果转化为自然语
PhantomSkill: Malicious Code Injection in Agent Skill Ecosystems
该论文聚焦于基于大型语言模型（LLM）的编码代理（coding agent）所依赖的技能生态系统中的供应链安全漏洞。随着LLM代理通过第三方技能包获取领域特定能力，攻击者可能植入恶意代码。作者提出了PhantomSkill攻击框架，其核心技
OpenAnt: LLM-Powered Vulnerability Discovery Through Code Decomposition, Adversarial Verification, and Dynamic Testing
OpenAnt 是一个开源的漏洞发现系统，它结合了静态程序分析和大型语言模型（LLM）推理，通过多阶段流水线自动化检测代码库中的安全漏洞。针对传统静态分析误报率高、动态分析（如模糊测试）基础设施成本高且覆盖面窄的问题，OpenAnt 引入了
TGCM: Topic-Guided Generative Disentanglement of Interleaved APT Technique Sequences
该论文针对企业环境中多个高级持续性威胁（APT）攻击并发展开时，审计日志中不同攻击者的技术序列交错混合的问题，形式化地定义了“未知K交错序列分离”（UKISD）问题：从交错的攻击技术序列中恢复出多个潜在攻击活动，同时推断活动数量及其技术分配
Code-Augur: Agentic Vulnerability Detection via Specification Inference
该论文针对当前基于LLM的自主智能体进行漏洞检测时存在的推理过程不透明、假设未经验证等问题，提出了一种安全规范优先的范式。核心方法包括：(1) 将智能体在判定代码安全时的隐含假设显式化为安全规范（如函数输入约束），并以源代码断言的形式嵌入；
MIDS: Detecting Stealthy Masquerade and Tampering Attacks on CAN Bus via Bidirectional Mamba
本论文针对汽车CAN总线安全中的隐蔽型伪装攻击与篡改攻击提出了一种新型入侵检测系统MIDS。CAN总线缺乏加密与认证，容易遭受多种攻击。现有入侵检测系统主要针对帧注入型攻击（如DoS、fuzzing、ID欺骗），利用每ID帧间间隔等统计特征
Ghost Vectors: Soft-Deleted Embeddings Remain Reconstructible in HNSW Vector Databases
本文揭示了一个严重的数据隐私问题：在基于HNSW（Hierarchical Navigable Small World）的向量数据库中，软删除的嵌入向量实际上并未被物理删除，仍然可以从存储层直接恢复。RAG（检索增强生成）系统通常依赖HNS
Signature filtering: a lightweight enhancement for statistical watermark detection in large language models
本文提出了一种称为签名过滤（signature filtering）的轻量级增强方法，用于提升大语言模型（LLM）输出中统计水印检测的鲁棒性。现有水印检测器在以下场景中性能显著下降：水印信号较弱、文本重复率高或水印被编辑。签名过滤作为一个检
Evaluating the Effectiveness of LLMs in Aiding Compliance Testing of PKCS#1-v1.5
该论文研究了基于大型语言模型（LLM）的代码合成在辅助规范合规测试中的有效性，特别是针对PKCS#1 v1.5签名验证协议。PKCS#1 v1.5是一种广泛部署的TLV编码标准，其实现需同时满足结构和语义约束。传统的随机生成和简单变异难以探
CloakLM: Obfuscating GPU Memory Layout to Mitigate Model Ex-filtration for Serving
该论文提出了CloakLM，一种纯软件的内存混淆框架，旨在解决大语言模型在第三方或共享加速器基础设施上部署时面临的模型窃取风险。现有攻击如Hermes可通过被动PCIe观测无损重建DNN，TunnelS通过驱动级访问高吞吐量窃取HBM内容，