Who Audits Whom, on What Substrate, with What Evidence? An Independence-Graded Audit Protocol for Agentic AI
本文针对智能体式 AI（agentic AI）系统的审计独立性问题，提出了一套分级审计协议。当前智能体系统能够自主规划、调用工具并在有限监督下行动，它们既是被审计对象，也越来越多地充当审计者；然而作为保证体系基石的“独立性”仍被当作二元属性
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Measuring and Exploiting Implicit Trust in LLM Tool-Calling Pipelines
该论文聚焦 MCP（Model Context Protocol）引入的一类被忽视的信任问题。MCP 让 LLM 能调用外部工具，但每一次工具交互都会把攻击者可控的文本通过多条输入通道注入模型：工具描述、工具返回结果、采样（sampling
When AI Agents Meet MEV: Cross-Chain Arbitrage in the Agentic Economy
该论文研究的是当「搜索者」从人类或自动化脚本变为自主 AI 代理时的跨链套利问题，属于 agentic economy 与 MEV（最大可提取价值）交叉领域。作者提出一个双向视角的建模框架：AI 代理既是套利的提取者，也可能成为 MEV 的
Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks
该论文重新审视了 Thompson 在《Reflections on Trusting Trust》中提出的编译器后门问题，将其扩展到自我修改的 AI 编码代理场景。传统攻击中，被污染的编译器即使重新编译干净源码也会重新插入后门；作者提出疑
Trust propagation and structural containment in Multi-agent LLM pipelines
该论文研究多智能体 LLM（大语言模型）流水线中的攻击传播机理与结构性遏制手段。研究对象是一个基于 LangGraph 构建的四智能体流水线，包含 Supervisor（监督者）、Researcher（研究者）、Validator（校验者）
Plug 'n' Pray: Agentic LLM-based Detection of Potential Log File Exposures in Third-Party Content Management System Plugins
内容管理系统（CMS）承载了约 58% 的网站，其中 WordPress 占据主导地位；通过第三方插件进行功能扩展既是其流行的重要原因，也是其攻击面的主要来源。本文聚焦一个高影响但研究不足的弱点：CMS 插件产生的日志文件暴露。插件出于调试
When Agents See Differently: Exposing UI Desynchronization Threats in Mobile Agents
该论文研究移动智能体（mobile agent）在与手机应用交互时的感知可靠性问题。当前移动智能体已能自主操作用户 App 并代为执行具有实际后果的动作，而有效的人类监督依赖一个基本前提：用户与智能体从同一界面看到一致的信息。作者指出这一前
Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives
该论文关注的是由大语言模型驱动的自主渗透测试智能体（AI-powered penetration testing agents）所引入的新型安全风险。作者指出，这类智能体与传统的对话式 LLM 系统存在本质差异：它们具备持久化记忆、能够在真
The MAL Simulator: Cyber Operations Simulation based on Attack & Defense Graphs
该论文介绍了 MAL Simulator（MAL 模拟器），一个基于 Meta Attack Language（MAL）构建的网络攻防行动模拟器，定位为面向决策驱动的网络攻击与防御仿真平台，用于系统分析以及自动化智能体（agent）的训练与
Feasibility of Homomorphic Inference for a Genomic Foundation Model
本文针对人类基因组数据"一旦泄露不可撤销、且可直接指向个体身份"这一特殊性，研究基因组基础模型（genomic foundation model）在第三方算力上推理时的隐私可行性问题。作者提出并回答的核心问题是:算力提供方能否在完全不接触明
Adversarial Testing of Automated Program Repair Agents for Security Vulnerabilities
随着基于大语言模型（LLM）的软件智能体（Agent）被广泛用于自动化程序修复（Automated Program Repair, APR），未来 APR 智能体很可能在没有多少人工干预的情况下自动修复缺陷，这引出了一个关键问题：在此类场景
Vulnerability Localization Benchmark: Measuring Agentic Security Analysis at Repository Scale
随着语言模型代理越来越多地被用于处理完整软件仓库，现有网络安全评测多聚焦于代理能否检测、复现或修复漏洞，却很少衡量它们能否真正“定位”到相关代码。本文提出“漏洞定位（vulnerability localization）”这一任务：给定一个
Authorization Architectures for Tool-Using AI Agents
该论文是一篇面向「工具调用型 AI 智能体」授权体系的系统性综述，作者来自产业与研究机构。文章指出：能够自主调用 API、数据库、浏览器以及 MCP（Model Context Protocol）等智能体间协议的 AI Agent 正在成为
The Model Proposes, the Code Disposes: A Pre-Registered Ablation of a Verifier-and-Acceptance Stage in an LLM-Orchestrated Offensive-Security Agent
该论文研究一个常被忽视的工程问题：在由 LLM 编排的进攻性安全 agent 中，最终上报的漏洞发现是否需要经过一个“校验—验收”阶段，以及这个阶段究竟改变了什么。作者 Theodoros Moutesidis 采用预注册的实证方法，分三步
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
论文揭示：把预训练的潜在世界模型（把观测编码为潜在状态、并预测其在动作下如何演化的学习型模拟器）当作下游控制任务的“现成动力学骨干”来复用，会引入一条供应链后门。攻击者只需控制发布的模型检查点，就能劫持下游控制器——而受害者完全在干净数据上
Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks
大型语言模型（LLM）智能体在集成外部工具后可完成多步复杂任务，能力显著提升，但其对提示的开放性以及对工具的操控能力也带来了新的攻击面。本文聚焦四类针对工具集成 LLM 智能体的对抗攻击：直接提示注入、间接提示注入、记忆投毒与后门攻击，并尝
Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models
该论文针对视觉语言模型（VLM）在隐私敏感与带宽受限场景下的视觉问答（VQA）任务，提出名为 QPriv-VL 的「问题引导式、隐私感知」视觉 token 剪枝框架。研究背景是：联邦学习（FL）、拆分学习（SL）与 U 型拆分学习（USL）
Approval Integrity and Recovery in LLM Answer Publication
该论文聚焦 LLM 系统在“答案发布”（publication）环节的完整性与授权绑定问题：已获批准的内容必须与其当前的授权上下文严格绑定，否则会出现三类可区分的失效——语义层面的错误批准（把无依据的答案判为可用）、授权陈旧（审批时有效但发
Misleading the Planner through Deceptive Resumes: Registration-Time Injection in Centralized Multi-Agent Systems
该论文研究的是中心化 LLM 多智能体系统（MAS）在“注册阶段”引入的一类新型注入风险。在这类系统中，新加入的 worker agent 需要把自己的描述信息注册进系统，而 planner（规划器）会读取这些描述来决定三个关键决策：任务如
Empirical Evaluation of Task-Based Permission Scoping Architecture for AI Agents
该论文研究企业环境中 AI agent 的凭据配置问题。当前许多企业把 AI agent 当作员工自有主机来配置，在部署时一次性下发一套静态凭据，包含该员工角色未来可能用到的全部权限。基于角色的访问控制(RBAC)之所以对人类主体做这种妥协