#agent-security

共收录 1542 条相关情报。

学术论文2026-09-21 发布INFO

ActGov: Governing LLM Agent Actions via Policy-Constrained Validation

该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是：智能体通过外部工具执行多步任务时，工具返回的不可信内容（如网页、文档、第三方 API 输出）会作为上下文回流进模型，进而影响后

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #prompt-injection #authorization #policy-enforcement

学术论文2026-09-21 发布INFO

Forgeable Confirmation in Automated Computer Security Testing: Deterministic Rules versus AI Judges

该论文研究自动化计算机安全测试中「确认（confirmation）」环节的可信性问题。当前 AI 辅助的安全测试工具需要自行判断一次攻击是否成功：由确定性规则通过直接观测确认的结论被当作事实上报，而由大模型判定为「可利用」的结论只被当作意见

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #llm #security-testing #llm-as-judge #benchmark-integrity #scanning

学术论文2026-09-21 发布INFO

LeaseGuard: Incumbent-Preserving Admission Control for Privileged LLM Agents

该论文聚焦于特权语言模型（LLM）智能体在执行新任务时，可能通过抢占（preemption）方式挤掉正在运行且健康的既有任务（incumbent）的问题。作者指出，这类故障的根源在于：系统把“执行权限（execution privilege

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #llm #admission-control #resource-isolation #multi-agent #access-control

学术论文2026-09-21 发布INFO

MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes

该论文面向当前 AI 智能体大规模自动化挖掘漏洞、但其报告数量已超过维护者人工审核能力的现实困境，提出了一套「探针（probe）」驱动的漏洞报告评估框架。作者指出，智能体提交的漏洞报告往往依赖特定应用自身的安全属性（security pro

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.LG #agent-security #llm #mobile-security #benchmark

学术论文2026-09-20 发布MEDIUM

Agents That Edit Documents: Measuring Agentic PDF Forgery Against a Non-Agentic Control

该论文研究自主型 AI 智能体（agent）被用于文档造假的现实风险，并为此构建了评测基准 AgentForge-Bench。研究背景是：过去一年里，能够独立完成多步计算机任务的智能体已成为常规工具，而这种自主性对抱持恶意目的的用户同样可用

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #document-forgery #fraud-detection #pdf-forensics

学术论文2026-09-20 发布INFO

Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges

该论文聚焦 agentic AI 带来的安全边界扩张问题。传统 LLM 安全主要关注生成内容本身，而具备自主性的智能体还要维护持久状态、执行自主动作、调用外部工具，并与人类及其他智能体交互，这使得威胁面从"输出内容"延伸到"状态—动作—工具

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #threat-taxonomy #red-teaming #benchmark

学术论文2026-09-20 发布INFO

TriFleetRCA: On-Premise LLM Root Cause Analysis for Kubernetes

论文针对远程站点/边缘环境的 Kubernetes 根因分析（RCA）痛点展开研究。当前运维场景中，故障证据分散在 Pod 日志、Kubernetes 事件与集群级对象里，跨源关联耗时且依赖人工经验；同时许多企业出于合规与数据主权要求，无法

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.DC #cs.LG #llm #kubernetes #root-cause-analysis

学术论文2026-09-20 发布INFO

When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems

本文对"AI 原生操作系统"路径上的安全问题进行了系统化梳理（systematization）。研究背景是：大语言模型智能体已不再是单纯的文本生成器，而是被授予了高权限的主体（principal），能够直接编辑代码仓库、操作用户收件箱、完成

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.OS #agent-security #llm #os-security #provenance

学术论文2026-09-20 发布INFO

Runtime Authorization Consistency Checking for MCP-based Agentic Workflows

该论文聚焦 MCP（Model Context Protocol）驱动的智能体（agentic）工作流中的授权安全问题。此类系统通过多步工具调用访问文件、服务与外部资源来满足用户请求，而现有防护普遍采用“逐调用隔离检查”的方式，即对每一次工

历史摘要 · 未重新核验 · arXiv cs.CR

#mcp #agent-security #llm #authorization #tool-calling #runtime-monitoring

学术论文2026-09-19 发布INFO

Security of Agent-Integrated Software: When Human Operations and Agent Actions Coexist

该论文关注「智能体集成软件」（Agent-Integrated Software, AIS）这一新兴软件形态的安全问题。AIS 的思路是在传统应用程序中内嵌一个智能体，使系统同时支持两类操作路径：一类是人类用户操作，用于做精细修改、审查结果

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.SE #agent-security #llm-agent #software-security #access-control #human-agent-interaction

学术论文2026-09-19 发布INFO

When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence

该论文关注智能体（agentic）系统日益普遍地跨越组织边界调用工具、服务、数据乃至其他智能体的现象，指出现有治理模型存在一个结构性缺口：当一个动作由生产域（producing domain）的智能体发起并委托执行时，依赖方（relying

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #trust-management #provenance #identity

学术论文2026-09-19 发布INFO

Beyond Single-Model Injection: A Threat Model and Defense Architecture for Prompt Injection in Multi-Agent Systems

该论文指出，现有提示注入（Prompt Injection）研究几乎都局限于单模型聊天机器人场景，即攻击者通过精心构造的输入操纵单个 LLM。作者认为多智能体（Multi-Agent）系统引入了三种单模型场景中不存在的放大机制：其一，智能体

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CL #cs.MA #agent-security #llm #prompt-injection

学术论文2026-09-19 发布INFO

SelfOp: An Optimization Algorithm for Self-Improving Security Agents

LLM 智能体正被用于漏洞发现、漏洞复现与补丁生成等安全任务，但在模型层面提升其能力通常依赖专家演示或可计算奖励，而安全任务恰恰很少具备这两点：执行轨迹昂贵、失败原因难以诊断、奖励稀疏且难以自动判定。因此研究重心转向执行框架（harness

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #context-optimization #self-improvement #vulnerability-reproduction

学术论文2026-09-18 发布INFO

APort Vault: Benchmarking AI Agent Payment Authorization with the Open Agent Passport

该论文提出 APort Vault，一个面向工具使用型 AI 代理的支付授权基准。研究背景是：当 LLM 代理能够调用支付工具时，模型自身的策略遵循不足以保证资金只流向授权对象。作者在公开 CTF 活动中收集了人类编写的 4,371 条攻击

历史摘要 · 未重新核验 · arXiv cs.CR

#agent-security #llm #payment-security #authorization #benchmark

学术论文2026-09-18 发布INFO

Provisional Reachability: Containing Agents by Making Every Crossing Revocable

本文研究如何为防御者设定可量化的信息泄露速率上限，以限制智能体在多轮交互中逐步拼接敏感信息。前作指出需阻断的量有单位——每周期比特数，本文设定该速率。核心机制为“临时可达性”：把每次跨边界访问暂存一个周期，对暂存项以概率 r 独立审计，任一

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.NI #agent-security #llm #information-theoretic-security #containment #escrow

学术论文2026-09-18 发布INFO

CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents

该论文指出，当前对 LLM 智能体（LLM Agent）隐私泄露的评估大多局限在单一组件内部（如记忆模块、检索链路、工具调用流水线），因此无法区分「内部已经暴露的敏感信息」与「外部观察者实际能够还原出的信息」这两类本质不同的问题。为此作者提

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #privacy-leakage #evaluation-framework #llm-agent

学术论文2026-09-18 发布INFO

Authorization Revocation for Long-Running AI Agents: Root-Scoped Quiescence under Delegation and Asynchronous Execution

该论文研究长时运行的 AI 智能体（long-running AI agents）在授权撤销方面的根本性缺陷。这类智能体往往比发起它的进程存活更久，其存活载体包括长期凭据、委托出去的子任务、消息队列、回调、资源预留以及服务提供方侧的操作记录

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.PL #cs.AI #agent-security #llm #authorization-revocation #agent-lifecycle

学术论文2026-09-17 发布INFO

NetInspector: Measuring and Improving LLM Capabilities for Reliable Intent-Based Networking Policy Generation

现代网络规模庞大且配置高度异构，依靠人工维护策略已越来越不可行。意图驱动网络（IBN）旨在把运维人员的高层目标自动翻译为底层设备配置，但现有 IBN 系统普遍依赖静态启发式规则和固定特征分类器，面对新服务定义、运维请求措辞演变等分布漂移时泛

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.NI #agent-security #llm #network-security #intent-based-networking #policy-generation

学术论文2026-09-17 发布INFO

Origin Is All You Need: Provenance-Aware Transformers for Structural Trust-Boundary Separation

该论文针对大语言模型（LLM）系统中的间接提示注入（Indirect Prompt Injection, IPI）问题提出了一种架构级防御方案。作者指出，IPI 之所以长期难以根治，根本原因在于标准 Transformer 架构缺乏对「来源

历史摘要 · 未重新核验 · arXiv cs.CR

#prompt-injection #llm-security #agent-security #trust-boundary #model-architecture

学术论文2026-09-17 发布MEDIUM

Loopjacking: Hijacking Human-in-the-Loop Approval

该论文提出并系统化了一类智能体（Agent）安全边界失效问题，作者将其命名为 Loopjacking（回环劫持）。在带有人工审批环节（human-in-the-loop）的智能体系统中，人工批准通常被视为执行高风险操作前的最后一道安全防线；

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.MA #agent-security #llm #human-in-the-loop #authorization-binding #agent-framework