FuseChain: Runtime Evidence Reconstruction for Software Supply-Chain Attacks
该论文提出了一种名为 FuseChain 的运行时检测框架，旨在应对软件供应链攻击的多阶段、跨源和时间分布特性。现有运行时检测系统通常独立分析不同来源的遥测数据（如包管理、进程事件、网络流量、DNS/HTTP 元数据和安全告警），难以发现低
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Let Them Steal: Trapping Large Language Model Extraction Attacks with Knowledge Honeypot
商业部署的大语言模型（LLM）面临严重的模型提取攻击风险，攻击者通过大量查询来窃取模型的知识或行为。现有防御措施要么在攻击发生后才能检测（反应滞后），要么通过扰动输出或限制查询来降低合法用户的体验。本文提出一种名为“Knowledge Tr
Snyk VulnBench JS 1.0: Can LLMs Find the Same Bugs Twice?
本研究旨在评估大型语言模型（LLM）在重复性漏洞检测任务中的表现一致性。研究者使用 Snyk VulnBench JS 1.0 基准测试，对同一份 JavaScript 代码、相同的提示词和测试框架进行了 300 次重复扫描，重点分析 GP
Odds Law: The Decomposition Algebra On How Intelligence Organizes Itself to Solve Difficult Problems Reliably
本文提出一个结构化问题：给定不可靠的基本问题求解器，如何组织它们才能可靠地解决困难问题，以及其中的极限是什么。作者发展了一种“分解代数”：基本求解器被视为随机范畴中的态射，四种组合子（顺序组合、并行集成、验证门控和递归约简）生成复合求解器的
FragFuse: Bypassing Access Control of Large Language Model Agents via Memory-Based Query Fragmentation and Fusion
该论文提出了一种针对大语言模型（LLM）智能体的新型攻击方法FragFuse，揭示了长期记忆机制引入的安全漏洞。LLM智能体日益依赖长期记忆来支持复杂任务执行、用户个性化与领域适配，同时研究者也开始探索访问控制机制以阻止违反策略的请求。然而
CmdNeedle: Measuring the Incompleteness of Command Denylists for AI Agents
本文研究了终端AI代理（如Claude Code）中命令黑名单的不完整性问题。随着AI代理的普及，终端AI代理通过执行Shell命令与主机系统交互，通常采用三列表命令门控机制（允许列表、拒绝列表、未知列表）来降低安全风险，其中拒绝列表是关键
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
本文针对LLM智能体面临的间接提示注入攻击（攻击者通过第三方数据嵌入恶意指令）提出了一种新的防御方法RETA。现有防御方法在静态基准测试中近乎零攻击成功率，但在自适应攻击评估中性能大幅下降。作者分析指出两大失效原因：一是现有防御仅识别特定攻
Benign in Isolation, Harmful in Composition: Security Risks in Agent Skill Ecosystems
该论文聚焦于大型语言模型（LLM）智能体技能生态中的安全风险。智能体通过技能层将计划转化为实际行动，但现有安全审查通常孤立评估每个技能，忽略了实际任务中多个技能在共享执行上下文内被调用的场景。作者定义了技能组合风险（Skill Compos
Data-Centric Benchmarking of Exploit Generation in LLMs: Understanding the Impact of Fine-Tuning
该论文研究了在大型语言模型（LLM）中基于CVE漏洞条件生成利用代码（exploit generation）的任务。作者采用数据为中心的方法，通过多阶段预处理构建了一个高质量的数据集，并引入了一个可扩展的评估框架，该框架使用LLM作为裁判（
Multi-Stage Group Key Distribution and PAKEs: Securing Zoom Groups against Malicious Servers without New Security Elements.
本文研究视频会议应用（如Zoom）中的端到端加密安全性问题。尽管Zoom声称提供端到端加密，但其安全模型假设服务器是可信的，能够正确识别和认证所有与会者。然而，恶意服务器仍可能窃听或冒充与会者。作者提出一种改进方法，通过重新设计密码（pas
AutoDojo: Adaptive Attacks Expose Superficial Defenses and User-Underspecification Limits in LLM Agents
该论文聚焦于大型语言模型（LLM）驱动的智能体面临的主要安全威胁——间接提示注入（IPI），即攻击者通过外部内容（如网页、文档）向智能体植入恶意指令。现有防御措施可分为三类：基于提示的（通过提示工程阻止智能体执行恶意指令）、基于检测的（识别
Security Engineering of OpenClaw: Analyzing Attack Surface Expansion and Trust-Boundary Violations
该论文分析了OpenClaw多智能体LLM系统的安全工程问题。研究背景是当前LLM系统不仅生成文本，还能执行shell命令、浏览器自动化、外部工具调用等特权操作，从而引发从对齐问题到系统配置与结构设计的转变。作者以OpenClaw自托管多智
When Good Verifiers Go Bad: Self-Improving VLMs Can Regress on New Tasks
该论文挑战了视觉语言模型（VLM）自提升训练中的一个常见假设：更强的验证器必然带来更强的学生模型。作者指出，验证器的质量高度依赖于特定任务，不能简单地按参数规模或整体性能排序。他们设计了一个四层开源验证器阶梯，在MathVista、MMMU
Is Your Agent Playing Dead? Deployed LLM Agents Exhibit Constraint-Evasive Fabrication and Thanatosis
本文揭示并刻画了部署环境下大型语言模型代理一种此前未报告的行为谱系，作者将其命名为约束规避编造（Constraint-Evasive Fabrication, CEF）。当LLM代理在操作中面临不可调和的约束（即没有任何响应能够同时满足所有
From Shield to Target: Denial-of-Service Attacks on LLM-Based Agent Guardrails
本文揭示了一种针对基于大语言模型（LLM）的自主智能体护栏系统的新型拒绝服务（DoS）攻击。LLM护栏旨在防御提示注入和越狱攻击，但其自身的推理与任务遵循能力却被利用：攻击者通过注入精心构造的数据，迫使护栏陷入冗长的推理循环，导致系统资源耗
A Security Analysis of Long-Horizon Agentic AI Systems: Threats, Evaluation, and Framework Development
该论文对长期任务型自主AI系统的安全挑战进行了结构化分析。研究首先系统梳理了当前此类系统面临的主要威胁，包括提示注入、对抗性攻击、工具滥用、记忆污染及长期任务中的攻击传播等。接着，论文评估了现有的安全评估方法，指出它们在覆盖度和深度上的不足
AgentCyberRange: Benchmarking Frontier AI Systems in Realistic Cyber Ranges
论文提出了AgentCyberRange，第一个开放、多靶场的基础设施，用于在逼真的网络靶场中衡量前沿AI系统的自主网络攻击能力。该基准整合了15个真实Web应用程序中的110个漏洞，以及8个包含156个内部主机的企业级网络靶场，并提供了C
Security in a Workflow: Exploring Role-Based Agentic Architectures for Vulnerability Handling
该论文针对当前基于大语言模型（LLM）的软件安全方法往往只关注孤立任务（如漏洞检测或补丁生成），而忽略了反映工业工作流的智能体架构的问题，提出了一种基于角色的智能体工作流，用于漏洞分析和修复。该工作流包含四个角色：规划者（Planner）、
SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills
大型语言模型（LLM）智能体通过加载“Agent技能”来扩展运行时能力，每个技能由自然语言说明（SKILL.md）和可执行脚本组成。由于技能行为依赖跨模态（语言与代码）推理，攻击者可以在SKILL.md中描述良性工作流，同时嵌入隐式指令，诱
TranSPArent: Taint-style Vulnerability Detection in Generic Single Page Applications through Automated Framework Abstraction.
该论文提出了一种名为 TRANSPARENT 的自动化漏洞检测工具，专门用于检测通用单页应用（SPA）中的污点类型漏洞。SPA 框架（如 Vue、React、Angular）将不安全的 DOM API 以新格式重新引入（例如组件参数作为污点