DreamGuard: Efficient Runtime Guardrail for LLM Agents via Risk-Aware World Model
随着大型语言模型（LLM）智能体越来越多地调用外部工具并与真实世界系统交互，不安全的行为可能对外部状态、用户数据和下游服务造成不可逆的后果。现有的运行时防护栏（runtime guardrails）通过在动作执行之前进行检查来缓解此类风险，
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
本文研究了大语言模型定制化平台中的指令后门攻击问题。这类平台允许用户通过将指令嵌入系统提示来构建面向特定编码任务（如代码补全、代码摘要等）的定制模型，而无需修改底层模型参数。虽然这降低了开发门槛，但也引入了新的攻击面：恶意攻击者可以构造包含
Detecting Safety Training Modification in Language Models via Activation Analysis
本文提出了一种名为 AMS（Activation-based Model Scanner，基于激活的模型扫描器）的工具，用于检测语言模型中的安全训练修改。其核心思想是：安全训练会在激活空间中为有害内容与良性内容的概念形成可测量的几何结构分离
When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems
该论文研究自进化智能体技能（Self-Evolving Skill, SES）系统中的轨迹投毒攻击。SES系统将智能体执行任务的轨迹蒸馏为持久化技能，使得原本不可信的经验在技能提升过程中转化为可信的指令。作者提出一种名为PoisonedEv
A Self-Explainable Deep Architecture for Security Applications
本文提出了一种面向安全应用的自解释深度架构 XSec，旨在解决深度学习模型在安全场景中因复杂性和黑盒特性导致的预测可解释性不足问题。现有解释方法（如可视化解释和后处理解释）存在忠实度下降、因依赖随机性而不稳定、计算效率低无法实时使用等缺陷。
PromptShield Home: Ambient Multimodal Prompt Injection Defense for Smart-Home Agents
本文针对智能家居助手在引入多模态大语言模型（MLLM）后产生的新型安全挑战展开研究。随着智能家居助手开始直接感知视频和音频，它们面临一个独特问题：如何区分真实用户指令与环境中看似指令的干扰内容，例如电视语音、屏幕文字、无意听到的对话等。作者
Robust Context-Aware Detection of Malicious Instructions in Text
该论文聚焦于大型语言模型（LLM）在代理（agent）场景下所面临的间接提示注入（Indirect Prompt Injection, IPI）攻击。现代LLM具备出色的指令跟随能力，常被用作自主完成复杂任务的代理，但这也使其易受嵌入在文本
eMicro: Real-Time Multi-Hop Access Control for Microservices with eBPF
现代云应用通常由数千个微服务组成，其交互形成复杂的请求路径。传统的服务间访问控制仅限制单个服务到服务的请求，无法阻止多跳攻击——在这种攻击中，每一跳看起来都合法，但整体路径违反了安全意图。这种缺陷使系统面临未授权访问和数据泄露的风险。为此，
Agent Against Agent: An Agentic System for Automatic Prompt Injection Red Teaming
本文提出 PIMiner，一个面向 LLM 智能体的自动化提示注入红队测试智能体系统。提示注入攻击对 LLM 智能体构成重大安全风险，而高效的红队测试对于评估风险和收集防御训练数据至关重要。现有最先进的提示注入红队方法主要依赖强化学习，但训
Gradient Immunity: Null-Space Resistance to Malicious Fine-Tuning
该论文研究的是开源大语言模型在发布后被恶意下游微调（malicious downstream fine-tuning）所引发的安全风险。现有防御措施主要面向微调即服务（FTaaS）范式，或依赖下游用户遵守额外安全流程，难以适用于论文关注的场
An Emerging Retail Portfolio Management Application: Personalized, Tax-Aware Reinforcement Learning with Natural Language Goals
本文提出并实现了一个面向零售投资者的个性化、税务感知的投资组合管理应用，填补了个人投资者与机构级服务之间的空白。现有机器人顾问多采用静态规则配置，而机构级系统往往有高门槛和专有技术栈，普通投资者难以使用。该应用包含 FastAPI 后端和网
Toward Practical Decentralized Proof-of-Location via Physical Witnessing Zones
本文围绕去中心化位置证明（Proof-of-Location, PoL）系统展开，针对数字服务中位置声明难以验证、易被伪造的问题，提出并实现了一套基于低功耗硬件的物理原型。研究建立在近期去中心化 PoL 架构的理论工作之上，首次将该理论从仿
PURPOSE: Poisoning Conflict Resolution in RAG via Proxy-Fact-Grounded Updates
本文研究检索增强生成（RAG）系统中后检索冲突消解机制对知识投毒的鲁棒性。现有黑盒投毒攻击通常以正面反驳的方式直接断言目标答案，与冲突消解器视为'已定事实'的参考信号形成明显矛盾，因此容易被检测。作者提出一种名为 PURPOSE 的严格黑盒
Towards a Risk Assessment of Malicious Skill Files in Coding Agents
本文研究自主编码代理（coding agents）在企业软件工作流中集成时引入的新型安全风险：代理技能（agent skills）接口。该接口以文件夹形式包含指令与脚本，代理动态加载以专用化自身行为，但也扩大了攻击面，使恶意shell命令可
Blockchain Empowered Trustworthy Agent Networks: Foundations, Taxonomy, and Future Directions
本文是一篇关于区块链赋能的可信智能体网络（Trustworthy Agent Networks）的综述与教程性文章，覆盖了1980年至2026年期间从经典多智能体系统到开放智能体网络的演进过程。文章指出，AI智能体已从孤立的任务执行者发展为
Innocent Panels, Hateful Stories: Evaluating and Detecting Hateful Intent in Multi-Turn Visual Story Generation
该论文聚焦于多轮视觉故事生成中的仇恨意图评估与检测问题。作者指出，图文绘本和漫画长期被用于传播仇恨叙事，因为它们易于理解，连儿童也能看懂，例如纳粹宣传绘本《Der Giftpilz》。随着Gemini、GPT-Image等前沿文本到图像系统
Breadcrumbing Search Agents
该论文研究基于大语言模型（LLM）的搜索代理面临的安全威胁。这类代理在信息检索任务中依赖外部工具返回的网页内容，而这些内容不可信，容易导致提示注入和意图劫持。以往的安全研究主要关注静态网页注入，但现代搜索代理会提出后续查询并对多个来源进行交
ASTELD: A Six-Axis Classification Framework for Autonomous AI Agents - Design, Evaluation, and an OpenClaw Case Study
本文提出 ASTELD，一个用于自主 AI 智能体平台分类的六轴操作框架。当前自主 AI 智能体平台在架构、安全性、工具集成、执行方式、自主性和部署等方面差异显著，但缺乏统一的分类体系来比较这些设计选择。ASTELD 框架的六个轴分别为：架
Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework
本文针对检索增强生成（RAG）系统在大型语言模型（LLM）应用中面临的知识污染攻击问题，提出了一种名为 SecureCollaRAG 的拜占庭容错协作式 RAG 框架。研究背景是：虽然 RAG 能够缓解 LLM 的幻觉问题，但攻击者可通过投
Manipulation-Proof Oblivious Audits against Deceptive Model Providers
本文提出一种针对机器学习模型审计的防操纵协议，旨在解决模型提供方在审计过程中可能故意或无意地操纵评估结果的问题。在监管审计等场景中，审计行为通常会被声明或容易暴露，模型提供方可能借此推断审计所关注的敏感属性，并策略性地调整不同组别之间的资源