Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations
该论文提出 ProxyDrift 框架，用于在大规模 LLM 应用中实现隐私保护的数据漂移检测与评估集恢复。核心问题在于：生产环境中用户交互数据包含敏感信息，直接查看原始数据违反隐私约束，导致无法获得代表性评估集，也难以追踪生产流量的持续演
2026-08-11 归档
今日共收录 1506 条安全情报，包含 770 个 CVE，368 篇安全通告，以及 83 篇研究论文。
← 返回归档列表When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse
本文针对检索增强生成（RAG）系统面临的投毒攻击威胁，提出了一种基于文档级注意力坍缩（Attention Collapse）的检测方法。RAG通过注入外部文档来增强大语言模型的生成能力，但攻击者可能注入对抗性文档以操纵模型输出。现有检测方法
ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners
该论文聚焦于基于大语言模型（LLM）的智能体系统中的技能（skill）安全扫描问题。作者首先通过实证研究发现，现有的技能扫描器主要针对单个技能进行安全检查，忽略了跨技能组合可能带来的风险。这种防御盲区使得多个在本地看似无害的技能，在智能体执
Persistent Semantic Entities in Tool-Augmented LLM Systems
该论文系统性地研究了工具增强的LLM智能体中隐式状态持久化的问题，并将其形式化为“持久语义实体”（Persistent Semantic Entities, PSEs）。这类实体通过名称绑定、事件触发和跨边界传播机制在会话间留存、被事件激活
BASIS: Breach-Aware Selective Prompt Injection Shielding with Prefill Attention Probes
本文针对大语言模型（LLM）应用中的提示注入（Prompt Injection）安全威胁，指出现有检测方法仅识别注入是否存在并一律拒绝响应，而忽略了现代对齐模型对精心构造指令的鲁棒性差异。作者观察到，不同指令和模型对注入攻击的抵抗能力差异显
ActBench: Self-Evolving Benchmark of Behavioral Safety in Cowork Agents
该论文聚焦于智能体（cowork agents）在执行良性任务时可能产生的行为安全风险，例如泄露受保护数据、操纵未授权状态、调用未授权 API 等。作者将这类风险定义为“行为安全”（behavioral safety），并提出一个名为 Ac
Governing the KV Cache: Preventing Timing Side-Channel Leakage in Multi-Tenant LLM Inference
本文研究多租户大语言模型（LLM）推理场景中 KV 缓存共享引发的时序侧信道攻击与防御。KV 缓存是现代 LLM 推理引擎（如 vLLM、SGLang）的核心吞吐优化机制，通过前缀复用加速请求处理，但在多租户部署中该缓存被所有租户共享，导致
Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation
本文针对用户与大型语言模型（LLM）交互中的隐私保护问题展开研究。现有方法通常只关注直接显式标识符（如标准检测器捕获的个人身份信息，PII），例如隐私感知委派（PCD）方法，该方法使用本地LLM作为用户与远程LLM之间的中介。然而，隐私风险
Repeated-Game Security for Restaking-Based Verifiable Inference
本文研究基于 Restaking 的可验证大语言模型（LLM）推理协议的安全性问题。这类协议通过质押和削减机制来保证推理提供者的诚实性，避免了零知识机器学习（zkML）的高昂证明成本和对可信执行环境（TEE）的硬件信任假设。现有协议通常依赖
Toward Metacognitive One-Shot Indirect Prompt Injection: Strategy Abstraction Via Outcome-Conditioned Reflection
本文研究了工具使用型大型语言模型（LLM）智能体面临的间接提示注入（Indirect Prompt Injection, IPI）安全威胁。IPI 攻击是指攻击者将恶意指令嵌入到外部观察数据（如网页、文档、工具返回结果）中，使智能体在不知情
SkillsMetric: Mapping the Detection Boundary of Static Analysis for Malicious Agent Skills
该论文聚焦于 LLM 代理生态中快速增长的 Agent Skills（结构化指令与脚本包）的安全性问题。尽管这类技能包正被广泛采用，其安全属性却严重缺乏系统研究。作者提出 SkillsMetric，一个五阶段静态分析框架，用于对技能包进行恶
What Keeps Agent Skills from Being Reusable? Evidence from 138K SKILL.md Files
本文针对当前 LLM 代理生态中“Agent Skills”（即以 SKILL.md 文件为核心、结合指令与辅助资源、使 LLM 代理可跨对话复用技能的标准格式）的可重用性问题进行了大规模实证研究。研究动机在于：尽管大量 SKILL.md
Targeted Counterfactual Fingerprinting for Black-Box LLM Ownership Verification
该论文提出了一种针对黑盒大型语言模型（LLM）的归属验证框架 TCF（Targeted Counterfactual Fingerprinting）。研究背景是：LLM 作为高价值资产，可能通过再部署、微调、量化或进一步对齐等方式被派生或复
Compositional Threat Analysis of Latent Compromise in LLM Agent Systems: The Order 66 Scenario
本文借鉴《星球大战》中“Order 66”的情节，提出了一种针对工具使用型大语言模型（LLM）智能体的组合式威胁分析框架。作者指出，类似Order 66的灾难并非源于单一强大命令，而是当受信任群体被预先植入条件、简短指令激活隐藏规则、且保护
Do All LLMs Know When They're Being Harmful? A Reproducibility Study of Latent-Space Safety Probes Across Model Families
本研究对 Khatri 等人 (2026) 提出的基于潜在空间的安全探针方法进行了端到端的可复现性验证，并扩展了原始研究的两个未涉及维度。原始方法使用轻量级 MLP 探针，在单个 8B 模型 (LLaMA-3.1-8B) 的最终层激活上，针
The Anatomy of a Prompt Injection: A Component Model for Structured Analysis
该论文针对提示注入（Prompt Injection）攻击缺乏结构化描述的问题，提出了一种七组件模型，用于对提示注入工件进行形式化分析。自2022年提示注入被首次识别以来，虽然Agent能力不断进化、威胁行为者已将注入嵌入以破坏AI辅助安全
Beyond Text Matching: Towards Reference-Free Evaluation for Human-Oriented Binary Reverse Engineering
本文针对人类导向的二进制逆向工程（HOBRE）评估难题展开系统性研究。HOBRE 旨在将反编译伪代码转换为更易读、更符合人类认知的表示形式，以降低逆向分析人员的认知负担。然而，如何可靠地评估 HOBRE 输出一直是核心挑战：人工评估成本高昂
Understanding and Improving Model Editing for Secure Code Generation
本文针对大型语言模型（LLM）在代码生成任务中可能复现不安全训练模式、生成漏洞代码的问题，首次系统性地研究了模型编辑（model editing）作为一种模型级安全硬化机制的有效性。与先前主要聚焦于推理时加固（如CoSec）的方法不同，模型
When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
本文针对大语言模型（LLM）作为高层规划器在具身多机器人系统中的应用，系统研究了多机器人协作中通信环节的安全威胁。以往研究主要关注单个机器人的安全性，对多机器人协同通信风险的理解不足，且现有工作仅针对去中心化多智能体系统（DMAS）架构进行
LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes
本文提出了一种名为 LoRAScan 的新型防御方法，用于检测大型语言模型（LLM）低秩适配器（LoRA）中的后门提示。LoRA 是一种高效的模型微调技术，通过引入小型适配器模块来降低计算成本，但也带来了供应链安全风险：不可信的适配器可能包