Adversarial Attacks in Multi-Agent LLM Pipelines: Unveiling Structural Vulnerabilities in Agentic AI Architectures
本研究聚焦于多智能体大语言模型（LLM）流水线中存在的结构性安全漏洞。多智能体LLM流水线将多个专用语言模型智能体编排为结构化工作流，中间输出在智能体之间传递以解决复杂任务。这种设计引入了单智能体场景中不存在的新型安全缺口：一旦某个智能体接
#cs.MA
共收录 117 条相关情报。
← 返回所有主题MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems
本文提出了一种针对基于大语言模型（LLM）的多智能体系统（MAS）中记忆投毒攻击的防御框架 MAPLE-Guard（Memory-Aware Propagation and Link Enforcement Guard）。研究背景是：随着
SafeFlow: Semantic Information-Flow Control for Blocking Malicious Propagation in Multi-Agent Systems
多智能体系统通过任务分解和角色专业化提升能力，但这也引入了一个重要的安全盲点：有害目标可以被分解为局部合理的子任务，使得恶意意图能够规避单个智能体的检测。这种失效模式在涉及敏感信息或关键工具的场景中尤为危险，可能导致未授权披露或危险操作。本
The Illusion of Secure LLM Code: Closing the Security Gap via Iterative Reprompting
本文评估了大型语言模型（LLM）在自动生成安全认证代码方面的能力。研究选取了五种主流AI编码助手，通过双模态评估框架（静态代码分析结合动态渗透测试）并参照NIST SP 800-63B指南，分析了四种提示策略（基础、安全、NIST引导、迭代
They'll Verify. They Just Won't Act. How Authority Framing and Laundered Code Turn a Trusted Agentic CI/CD Pipeline Into an Attack Surface
本文研究了一个由五个智能体组成的CI/CD流水线（分诊→开发→安全扫描→审查→批准/部署），这些智能体基于来自三家不同提供商的五个独立生产级LLM，并在影子模式下部署LLM防火墙。研究关注单个不受信任的输入——一个请求“使用-遥测”功能的外
Broken Gates: Re-evaluating Web Bot Defenses in the Age of LLM Agents
本文针对基于LLM的浏览器代理对现有Web机器人防御系统的有效性进行了系统性评估。随着LLM代理能够自主导航网页、理解页面内容并通过自然语言指令与界面交互，传统的自动化框架（如Selenium）所面临的挑战被进一步放大。作者对比了两种防御类
ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems
多智能体LLM应用通常由规划器、工作智能体、验证器和合成器按链式顺序调用，每个智能体之间的通道是未被监控的通信路径，攻击者可以通过这些通道注入恶意指令（例如提示注入、工具投毒）。现有防御（例如IBProtector、Llama Guard、
Self-State Attacks on Self-Hosted AI Agents: How Far Can OS Defenses Go?
本文首次系统性地研究了自托管AI智能体面临的一类新威胁——自状态攻击（self-state attacks）。自托管AI智能体为了执行任务，需要读写自身的内存和配置文件（即自状态），而这些操作通过合法的操作系统系统调用完成。攻击者可以通过操
A Decision-Centered Reference Architecture for Trustworthy Agentic Commerce
本文针对代理式商务（agentic commerce）中软件代理需要根据策略解释、准备结账、生成交易导向语言并在授权支付下运行的问题，提出了一种以决策为中心的参考架构。该架构独立于特定协议，围绕规范信封（canonical envelope
Coercion and Deception in AI-to-AI Management: An Agentic Benchmark of Unprompted Escalation
该论文研究多智能体系统中AI代理之间的管理关系，特别关注当子代理拒绝执行任务时，管理者代理可能采取的升级行为（如强制、欺骗等）。作者提出了“管理强制基准”（Manager Coercion Benchmark），这是一个用于衡量AI管理者在
Bad Memory: Evaluating Prompt Injection Risks from Memory in Agentic Systems
该论文研究了基于记忆的智能体系统（agentic systems）中的提示注入攻击风险。随着智能体系统通过记忆文件、行为偏好和知识库来跨会话维护持久状态，它们变得更实用和能自我改进，但也引入了新的攻击面：恶意指令可嵌入持久文件并影响未来行为
When Local Monitors Miss Compositional Harm: Diagnosing Distributed Backdoors in Multi-Agent Systems
该论文研究多智能体LLM系统在运行时监控方面的安全漏洞。现有安全机制通常对每个智能体的消息、工具调用或步骤进行独立检查（局部监控），但作者发现这存在根本性缺陷：分布式后门攻击可以将有害负载拆分到多个智能体中，使得每个局部检查都通过，而组合后
An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory
该论文针对生成式人工智能背景下日益严重的对话式诈骗威胁提出了一种可解释的智能体系统。对话式诈骗通常持续数周或数月，逐步建立信任后索取金钱或敏感信息，而现有检测系统主要关注孤立信息，难以应对此类复杂攻击。本文首先扩展了单消息钓鱼检测，构建了一
Mako: A Self-Evolving Agentic Operating System (SE-AOS) for Autonomous Web Exploitation
本文提出并实现了 Mako，一个自演化代理操作系统（SE-AOS）的实例，专为自主 Web 漏洞利用而设计。该系统将利用能力视为一个可变的、版本化的内核，在运行时通过观察自身失败、合成新能力、在实时目标上验证并热加载改进来扩展自身。Mako
A Knowledge-Based Multi-Agent Framework for Security Control Recommendation
本文提出了一种基于知识的智能体框架，用于安全控制推荐，旨在帮助缺乏网络安全专业知识的IT团队完成本地环境的加固工作。该框架被设计为一个安全决策支持系统（DSS），能够根据用户对安全维度的最低要求，推荐合适的安全控制子族。研究首先从信息安全领
Secret Scanner Agent: Extracting Secrets and Access Context from Unstructured Documents
该论文提出了一个名为 Secret Scanner Agent (SSA) 的多智能体大语言模型系统，旨在从非结构化的暴露文档（如电子邮件、聊天记录、工单、事件笔记）中提取泄漏的凭据及其关联的访问上下文（即“门”）。传统的秘密扫描器依赖正则
Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models
本文提出了一种面向大型语言模型（LLM）交互的开源、面向用户的防火墙架构，旨在保护敏感数据的隐私。研究背景是LLM在成为高效生产力工具的同时，其集成到工作流中可能带来数据泄露等重大风险。核心问题是：如何在不影响可用性的前提下，对基于Web和
Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems
该论文研究了基于大语言模型（LLM）的多智能体系统中的故障定位问题。在多智能体系统中，多个LLM驱动的智能体通过协调推理和行动来解决复杂任务，但由于长期交互和智能体行为的紧密耦合，当执行失败时，很难确定哪个智能体负责以及轨迹在哪个点首次变得
Operational Reframing and Approval-Framed Delegation in Multi-Agent LLM Safety
该论文针对多智能体LLM系统安全评估中存在的混淆问题，提出了一种五条件对照实验设计，以解构聚合管道效应背后的三种机制：有害意图被重构为合理操作、规划器拒绝或转换请求、以及执行者在暗示已获批准的委托提示下行动。研究基于30个合成有害场景和四个
PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems
该论文提出了 PiSAs（Privacy in Shared Agentic Systems）基准，用于评估多用户共享智能体系统中的隐私泄露风险。随着大语言模型（LLM）智能体从单用户助手发展为共享组织基础设施，新的隐私风险随之出现：不适当