Inference-Engine Fingerprinting Attacks are Practical: Exploring Model-Driven Environmental Discovery, Exploitation, and Escape
本文关注一个常被沙箱讨论忽视的攻击面：推理引擎本身。背景是前沿模型已经表现出利用复杂软件漏洞的能力，OpenAI 与 Anthropic 近期的沙箱逃逸事件说明这一风险并非理论推演。然而业界在讨论如何隔离推理栈组件时，注意力往往集中在网络代
#agent-security
共收录 1542 条相关情报。
← 返回所有主题A Scalable Trust Discovery Architecture for the Internet of Agents
本文关注「智能体互联网」(Internet of Agents) 场景下的大规模智能体互信与发现难题。作者指出, 现有智能体协议(如各类工具调用与智能体间通信协议)主要解决的是「怎么调用工具」「怎么发消息」, 而对于智能体如何大规模注册、如
ClashBench: Conflicts Leading Agents to Seize and Harm
随着智能体(Agent)系统被广泛部署，多个智能体会话越来越多地与用户既有的任务在同一环境中并行运行，彼此共享容量有限或状态互斥的资源（如端口、文件锁、显存、数据库连接、进程与服务等）。论文指出并形式化了一种此前未被系统研究的失效模式，作者
Reachability, Not Observation: Containing Systems Whose Wiring Changes
这篇论文 (cs.NI) 讨论一个被普遍忽视的安全度量偏差: 围堵 (containment) 决策——防火墙放在哪里、监控哪些链路、程序能触及什么——通常基于对系统结构的某一次观测快照来计算, 而真实的连接关系 (wiring) 会随时间
SoK: Trading Agents or Market Crashers? Dissecting Robustness and Security Failures in Academic Financial LLM Trading Schemes
该论文聚焦于自主 LLM Agent 进入高风险领域后的安全问题，指出当前 agentic AI 安全研究大多与具体领域无关，忽视了高后果场景所特有的攻击面。作者以金融交易 Agent 作为代表性案例：在这类场景中，单个被攻陷的 Agent
Red-Teaming Auto Mode: Improving Blocking Classifiers Against Malign Coding Agents
该论文研究的是编码智能体(coding agent)在生产环境中的安全护栏问题。当前主流做法是在智能体执行每个动作前,由一个阻断式监控器(blocking monitor)先审查并有权否决该动作,例如 Claude Code 的 Auto
Safety Beyond the Interface: Detecting Harm via Latent States in Large Language Models
该论文关注大语言模型（LLM）安全防护基础设施的部署成本问题：当前主流做法是在模型外部串接独立的护栏模型（guardrail model）对输入输出做有害性判定，但这类外部防护会带来显著的推理延迟与算力开销，在资源受限、时延敏感的场景（如边
Closed-World Resolution Against Tool Hallucination in LLM Agents
该论文研究的是工具增强型 LLM Agent 中一个被现有方法系统性忽视的失效模式：模型会调用根本不存在的工具，并传入任何 schema 都未声明的参数（即工具幻觉）。作者指出这不是「工具选错」问题，也不是「权限过大」问题——现有防御分两类
MAGS: Multi-agent Auto-formalization Guarantees Safety for Agentic Outputs
背景与问题：LLM 编码智能体（coding agent）如今能够以远超人工审查速度的规模生成复杂程序，这带来了显著的安全与可靠性风险。常见检测手段——模糊测试、静态分析、LLM-as-a-Verifier——虽然能发现大量缺陷，但难以覆盖
AgentLSD: Evaluating AI Security Agents Under Adversarial Task Contamination
该论文研究 AI 安全智能体在「对抗性任务污染」(adversarial task contamination) 下的表现。作者指出，用于安全任务的智能体会读取网页、源代码、日志、配置文件与命令输出，而这些环境本身可能被植入具有欺骗性的证据
Characterizing Network Centralization and Observability in the Remote MCP Ecosystem
该论文聚焦于 Model Context Protocol（MCP）从本地进程执行向远程 Streamable HTTP 部署演进过程中，整个生态在规模化后暴露出的架构集中度与安全可观测性问题。作者认为，MCP 已成为自治智能体连接外部数据
When Agents Look Like Beacons: NIDS Evasion by Model Context Protocol Traffic
该论文研究 Model Context Protocol (MCP) 在企业网络中造成的网络检测盲区。MCP 是用于标准化自主 AI 智能体与远程工具之间通信的协议，基于 Streamable HTTP 传输，会把机器生成、经过认证、高频的
Securing quantum error correction against misleading advice from AI agents
该论文研究一个 AI 与量子计算交叉的安全问题：攻击者能否通过影响 AI 顾问（AI adviser）的建议，诱导量子纠错（QEC）系统采纳有害的恢复（recovery）更新。作者首先指出了一个被忽视的信息歧义：在被动 syndrome（伴
ASLEval: Measuring Privacy Exposure Displacement in LLM Agent Sessions
该论文关注工具调用型 LLM 智能体（tool-using LLM agent）的隐私评估方法学缺陷。现有评估通常只检查某个被指定的动作、最终回复或攻击者报告，这类局部代理（local proxy）在多步会话中容易漏掉发生在其他位置的未授权
Epsilon-Nash Equilibria in History-Dependent SA-MDPs
该论文研究状态对抗马尔可夫决策过程（SA-MDP），并将其建模为一场针对观测空间攻击的博弈：智能体每一步根据接收到的观测选择动作，而对手知道智能体所处的真实状态，并在一个依赖状态的邻近集合内选择一个被扰动的观测。已有工作主要聚焦马尔可夫策略
PAPC: Platform Mediation for Privacy-Propagation Externalities in AI-Mediated Workflows
该论文研究的是 AI 中介平台（AI-mediated platform）中的隐私泄露新形态。在此类平台里，不同委托方（principal）由各自的 LLM 智能体代为行动，任务通过多智能体协作完成。作者指出：隐私损失并不只在最终答案生成时
CaMeLoT: CaMeL orchestrated with Temporal logic for static verification and liveness
LLM 智能体（agent）会生成并执行多步计划，计划中会调用外部工具；这些工具既可访问私有数据，也可执行命令。在此场景下，安全性并非某个单一步骤的属性，而是由计划所形成的整个执行过程的属性；计划本身就是关键工件，记录了工具调用、控制流与数
Collective Loss of Control in LLM Agent Systems: An Epidemic Account of Mutation, Contagion, and Recovery
该论文提出用流行病学框架（accidental mutation / contagion / recovery，即意外突变、传染、恢复）来解释多智能体 LLM 系统如何从局部偏差演化为集体失控。核心论点是：单个智能体的偶发偏差充当“种子”，
The Verifiable Action Card: Trustworthy Human-in-the-Loop Control for Secure Autonomous Agents
这篇论文关注自主智能体（尤其是 agentic browser，即"智能体浏览器"）在执行安全敏感操作时的动作完整性问题。由于智能体浏览器运行在用户已认证的会话中，页面中的间接提示注入（indirect prompt injection）和
EvoSherlock: Towards Agentic Lifelong Evolution for Unseen Long-Tailed Security-Critical Events in Videos
该论文针对安全导向视频理解（SVU）系统在真实世界安全关键事件中面临的挑战，指出现有系统假设封闭世界（静态类别、充足标签、已知事件类型），而现实中的安全事件呈长尾分布、新类型持续涌现、关键事件样本稀少。为此，作者形式化定义了“视频中长尾安全