Bounded Agents: Delegation Security for Multi-Agent AI Systems
该论文聚焦于多智能体人工智能系统中的委派安全问题。基于LLM的智能体可以代表用户访问云服务、调用工具或调用其他智能体。在会话开始时，智能体的权限被设定，但随后保持静态，每个请求被独立评估，而不考虑先前的操作。在其权限范围内，智能体可能做出与
2026-08-19 归档
今日共收录 2403 条安全情报，包含 1575 个 CVE，408 篇安全通告，以及 120 篇研究论文。
← 返回归档列表Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services
本研究针对大语言模型（LLM）服务中的分解攻击（Decomposition Attacks）展开，分析了在攻击者使用不可链接身份（unlinkable identities）时，状态化防御（stateful defenses）是否仍能有效阻
MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
随着大语言模型（LLM）赋能的图形用户界面（GUI）智能体从研究原型走向早期真实部署，其安全风险日益凸显。这类智能体在操作智能手机时，会频繁处理来自应用界面、网页内容、消息通知等不可信环境数据，极易遭受环境注入攻击（包括间接提示注入和对抗性
HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
大型语言模型（LLM）越来越多地通过代理harness（agent harness）进行部署，这些harness负责管理工具、扩展、持久状态、权限和外部操作。现有安全基准通常仅针对单一攻击机制或有限的操作设置，难以全面比较不同harness
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
大型语言模型（LLM）在实际应用中常面临精心设计的恶意提示（如越狱攻击）试图绕过安全机制的风险。现有的防护方法，如LLM-as-a-judge和基于云的安全API，虽能检测不安全内容，但每次请求会增加约250-900毫秒的延迟，难以满足实时
Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets
本文针对大语言模型（LLM）安全评估中黑盒越狱攻击评测不公平的问题，提出了名为 Fair-ASR 的新型评估协议。当前大多数研究仅使用攻击成功率（ASR）作为衡量指标，忽视攻击预算对结果的影响，导致不同方法之间的比较不公平。已有的计算感知评
FlowShield: cryptocurrency anti-money laundering with transaction semantics parsing and fund flow tracking
该论文提出 FlowShield，一个面向加密货币反洗钱（Crypto AML）的框架，旨在解决现有方法在交易语义简化、依赖拓扑中心信号以及输出孤立检测标签等方面的不足。FlowShield 首先从可观察关系中恢复行为级语义，使洗钱意图显式
COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models
本文针对多模态大语言模型（MLLM）在视觉定位场景下出现的新型安全风险展开研究。作者指出，在许多多模态越狱攻击中，单看提示词或单看图像都不包含有害内容，但当模型将看似无害的操作（如总结、翻译、跟随指令）绑定到图像中的局部区域时，才会产生不安
PACE: Policy-Attested Contract Execution for Safe AI Agents in Decentralized Finance
该论文提出 PACE（Policy-Attested Contract Execution），一种面向去中心化金融（DeFi）场景中基于大语言模型（LLM）的自主代理的交易级授权框架。研究背景是：LLM 代理被用于执行 DeFi 操作（如交
Benchmarking the Benchmarks: Evaluating Automated Safety Benchmarks for Small Language Models
本文系统地评估了现有自动化安全基准在小型语言模型（SLM）上的有效性与可靠性。随着SLM在资源受限、隐私敏感场景中的广泛部署，其安全性与偏见问题可能引发安全和社会的双重风险，但现有AI安全/安全/合规基准主要针对大型语言模型（LLM）设计，
Beyond the Hype: Evaluating LLM Integration and Practical Limitations in Security Operation Centers
本文通过半结构化访谈收集了20位安全运营中心（SOC）从业者的观点，包括一线分析师、SOC经理和工具开发者，探讨大语言模型（LLM）在SOC中的实际集成与局限性。研究发现，LLM在低风险、快速可验证的任务（如日志汇总、初步调查线索起草）中能
Structured Driving-State Narratives for Small Language Model-Based GNSS Spoofing Detection
本文提出一种基于小语言模型（SLM）的框架，用于检测和分类自动驾驶汽车（AV）所面临的GNSS欺骗攻击。研究背景是：AV依赖GNSS定位，但欺骗信号可诱导车辆产生看似合理实则错误的状态，威胁行车安全。核心方法是将来自GNSS和其他传感源（如
Topological Attribution Distance (TAD): Revealing Segment-Level RAG Influence on LLM Output Geometry for Incident Log Analysis
本文提出了一种名为拓扑归因距离（Topological Attribution Distance, TAD）的新方法，用于解决大型语言模型（LLM）在网络安全运营中输出证据溯源与归因的问题。随着LLM和智能体AI（Agentic AI）被集
What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents
该论文聚焦于对话智能体的长期记忆中的隐私保护问题。现有长期记忆架构主要优化个性化效果，却忽视了过度存储和复用用户敏感信息（如个人身份信息 PII）所带来的隐私风险。论文指出，仅简单删除敏感值会损害系统效用，因此隐私保护需要管理敏感值的完整生
LLMs for Zero-Shot Threat Detection via Structured Risk Indicators
本文提出了一种基于大语言模型（LLM）的两阶段框架，用于从异构安全日志中进行零样本内部威胁和高级持续性威胁（APT）检测。该框架将用户活动建模为按时间顺序排列的时间线，并引入检索增强生成（RAG）技术，从每个用户的历史活动中提取个性化行为上
DCI: Dependency Confidence Index for Assessing Open-Source Dependency Trustworthiness
本文针对软件供应链安全中开源依赖选择信任度评估的难题，提出了依赖置信指数（Dependency Confidence Index, DCI）。DCI 是一个复合形成性指标，通过九项经实证加权计算的信任因子，将依赖选择问题归一化为单一综合评分
Proving the Utility of Large Language Models in Cybersecurity Simulations: A Comprehensive Examination
该论文研究如何利用大语言模型（LLM）增强网络安全模拟的效率与适应性。随着网络攻击在频率和复杂度上持续升级，传统防御策略难以满足可扩展性与实时性要求。作者提出使用 YAML 作为结构化表示格式来模拟复杂网络拓扑，并通过 LLM 驱动的流水线
Security Assessment of DeepSeek Harness with A.I.G: Evaluating Resistance to Indirect Prompt Injection
本文针对 DeepSeek Harness（DSH）这一 LLM 智能体框架，使用 AI-Infra-Guard（A.I.G）平台对其抵抗间接提示注入的能力进行了系统性安全评估。研究设计了一套可控的污点注入测试流程：通过 16 个间接内容通
Ventor-QTest: Threat-Model-Driven Verification of Vendor-Hosted LLM APIs
随着大型语言模型（LLM）的广泛应用，第三方提供商部署开放权重模型已成为生态系统的重要组成部分。然而，如何审计这些第三方推理 API 的服务质量仍然是一个开放问题。本文提出 Ventor-QTest，一种复合黑盒审计方法，无需目标 API
Probing the Prefill: Detecting Code Vulnerabilities via Latent Activations
该论文研究了一个关键问题：当大语言模型（LLM）在读取一段 C/C++ 代码作为上下文时，其内部的隐藏激活是否已经包含了该代码是否存在漏洞的信号。传统防御方法（如静态分析器、微调分类器或 LLM 评审）都是在代码生成完成后进行事后筛查，忽视