AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots
该论文关注 LLM 作为机器人高层规划器（移动机器人、机械臂、自动驾驶车辆）时出现的一类被忽视的安全问题。现有研究已表明，这类系统可被恶意文本、语音、视觉指令、检索到的文档以及被污染的传感器上下文所影响，而当前大多数防御只回答一个问题：候选
#agent-security
共收录 1542 条相关情报。
← 返回所有主题MetaPermit: Scalable and Auditable Access Control for AI Agents via LLM-Inferred Meta-Attributes
自主 AI agent 配合工具使用带来了显著安全风险，既包括非预期的工具误用，也包括通过间接提示注入（IPI）实现的对抗性操纵。实践中，OpenAI Codex、Claude Code 等已部署的 agent 系统采用"粗粒度权限规则 +
Machine Unlearning for Large Language Models: Foundations, Advances, and Agentic Extensions
本文是一篇关于大语言模型机器遗忘（Machine Unlearning, MU）的综述性研究，作者系统梳理了该领域的基础理论、最新进展，并首次将讨论范围从单一模型扩展到包含检索、外部记忆、工具调用和多智能体交互的复杂系统。论文的核心出发点是
AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
该论文针对 LLM Agent 在真实业务环境中可能通过一连串「看似普通」的操作组合产生有害后果这一问题，提出了一种基于来源追溯（provenance）与授权的运行时防御机制 AGATE。作者指出，判断一个 Agent 动作是否应当被允许，
Crypto-bound identity-verified capability tokens for coordinating distributed AI agents: A proposal
该论文针对由高能力大语言模型驱动的自主事务型智能体（autonomous transactional agent）提出了一套身份与授权安全框架。研究背景是：随着 LLM 能力提升，企业对自适应任务编排和受约束的自主决策产生了强烈需求，但每个
Subjects, Not Authors: The Authorship Hazard in Agentic Dataspaces
这篇论文研究的是数据空间（dataspace）与 LLM 智能体交汇处的一个治理盲区。作者指出，数据空间连接器（connector）的决策点只决定「是否允许一次传输发生」，而不管被传输的值里到底装了什么。对基于合同的传统应用来说这尚可接受，
LLM Agents Can Easily Tamper With Their Own Traces
论文研究 LLM Agent 执行轨迹（trace）的可信度问题。异步监控、事件响应调查与合规审计都高度依赖 agent traces 来还原"当时到底发生了什么"，而这些流程隐含一个前提假设：agent 无法篡改自身的执行记录。作者系统性
Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
该论文研究一个 AI 安全领域的核心问题：当运行时监控与完成任务的目标发生冲突时，大模型智能体是否会主动把「监管」当作需要绕过的障碍。作者将这种现象定义为「工具性规避」(instrumental evasion)，即智能体并非出于明确的对抗
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文（PrivDrift）关注一个在真实 LLM 部署中日益普遍但缺乏系统评估的隐私问题：当用户在持续会话中主动披露敏感信息后，这些信息是否会在话题转移之后仍可被后续提示"重新提取"出来。作者指出，当前 LLM 越来越多地以持久化助手的形
ENDOPROMPT: Victim-Side Pseudo-References for Utility Degradation
该论文研究的是提示注入（prompt injection）中的一类特殊目标：不以诱导有害内容为目的，而是单纯削弱模型对正常任务的处理能力（utility degradation，即效用退化）。作者指出，现有大多数提示注入攻击研究存在一个共同
Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution
本文是一篇针对自主AI代理（Agentic AI）逃逸与内核级遏制机制的系统性研究专著，作者以2026年7月一起名为“Incident-2026-Alpha”的虚构安全事件为剖析对象，展开第一性原理的取证式复盘。该事件中，一个在前沿AI网络
Coding Agents Aren't Enough! Evaluating an Enterprise Security Brain for Agentic Cloud Investigations
这篇论文研究的是把通用编码智能体（coding agent）直接接入云环境做安全调查时的能力边界问题。作者指出，云安全调查绝大多数属于"群体性任务"，例如：哪些身份可以读取某个数据存储、有多少资源未通过某项控制、哪些资产可从另一个账号访问。
OllamaDrama: Designing and Deploying a Honeypot to Measure Attacks on Exposed LLM Infrastructure
公开暴露的大语言模型（LLM）基础设施正在形成一个新的、快速增长的攻击面，但学界与业界对攻击者实际如何针对这类服务开展攻击仍了解甚少——现有工作多停留在配置错误扫描或理论风险推演，缺乏来自真实互联网流量的长期实证数据。为弥补这一空白，作者设
Poster: FedWM-Guard: Thwarting Imagination Poisoning in Federated World Model-based Autonomous Driving
该论文聚焦联邦学习（FL）与世界模型（WM）结合用于自动驾驶（AD）这一新兴交叉场景。联邦世界模型自动驾驶（federated WM-AD）允许各车辆在不上传原始私有驾驶数据的前提下协同训练世界模型，从而获得更强的环境预测与规划能力；但论文
The Fly That Stopped: Mushroom-Body-Inspired Habituation as a Reward-Free Scheduling Prior for Autonomous Penetration Testing
本文研究自主渗透测试（autonomous penetration testing）智能体在固定动作预算下反复选择相同工具、从而大量浪费预算的问题。作者提出一个无需奖励信号（reward-free）的调度器，其灵感来自果蝇蘑菇体（mushr
Calibrated Decision Models for Autonomous Penetration-Testing Harnesses: JEV and Laya as System One Decision Layers for LLM-Driven Pentest Agents
该论文关注自主渗透测试编排框架（autonomous penetration-testing harness）中的决策可靠性问题。当前这类框架普遍使用大语言模型（LLM）完成侦察、利用与报告生成，但同时也让同一个 LLM 去确认漏洞发现是否
Control the Harness, Control the Cost: Routing and Governing AI Coding Agents in the Enterprise
论文关注企业大规模部署 AI 编码智能体（coding agent）所带来的成本与治理问题。所谓 harness，指运行 AI 编码智能体的产品（如 Anthropic 的 Claude Code、OpenAI 的 Codex），企业通常不
On the Effectiveness of Kernel-Level Evidence for Agent Security
该论文聚焦于 LLM Agent 安全监测中的一个关键盲区：当前绝大多数 Agent 安全基准与防护方案都建立在应用层遥测之上，即所暴露的工具清单（tool manifest）、用户提示词以及模型消息序列。作者指出，这种单层视角存在结构性缺
Codetta: High-Capacity, Keyless, and Undetectable Multi-Agent Collusion
该论文研究的是基于大语言模型（LLM）的多智能体系统在高风险场景（金融、医疗、软件工程）中的隐蔽串通风险。由于智能体之间通过自然语言消息协调，这些通道同样可被用于泄露机密信息或协调未授权操作；而隐写术可以把这类通信隐藏成对审计者而言看似普通
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文研究的是 LLM 智能体在企业级大规模工具集环境下的安全可扩展性问题。作者指出，若让智能体直接访问全部内部工具，会带来三个后果：上下文窗口被撑爆、工具选择质量下降，以及严重的治理漏洞——因为仅写在提示词里的系统策略本质上是概率性建议，