Defenses & Enablers For Skill Injection Attacks on Terminal Based Agents
该论文研究了大语言模型（LLM）代理在依赖可复用技能（即描述任务特定流程的文档）时面临的新安全威胁，并探索了两种互补的防御方向。首先，作者评估了基于守护者的防御机制：动态守护者作为一个中间LLM代理，在运行时对技能文件的访问进行实时调解；静
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Agent Operating Systems (AOS): Integrating Agentic Control Planes into, and Beyond, Traditional Operating Systems
本文提出Agent操作系统（AOS）的概念，以应对传统操作系统抽象（如进程、线程、系统调用、文件、权限等）对智能体AI工作负载的不足。传统OS面向确定性程序、显式控制流和人类发起的工作流，而智能体系统是长期存在、目标导向的实体，通过概率推理
ClawHub Security Signals: When VirusTotal, Static Analysis, and SkillSpector Disagree
该论文研究了AI代理技能（Agent Skills）的安全信号问题。代理技能是一种可重用的指令、工具、脚本、引用和工作流，它们扩展了AI代理的能力，但其安全边界既不同于模型安全也不同于传统包恶意软件检测。论文构建了ClawHub Secur
SABER: Benchmarking Operational Safety of LLM Coding Agents in Stateful Project Workspaces
随着大语言模型（LLM）越来越多地被用作编码代理（coding agents），安全问题从单个响应的安全性转移到操作序列的连续性。现有的安全基准主要评估模型是否拒绝不安全提示，而忽略了在状态化项目工作空间（stateful project
A New Framework for Cybersecurity Refusals in AI Agents
该论文提出了首个针对AI代理在网络安全场景中设定拒绝边界的框架。背景是，基于LLM的代理系统（agentic scaffolds）在完成复杂、长期任务方面表现显著提升，但也带来了风险放大，尤其在网络安全领域。现有基准主要衡量代理执行攻击任务
DiscourseFlip: An Oblique Discourse-Level Opinion Manipulation Attack against Black-box Retrieval-Augmented Generation
本文提出了一种针对检索增强生成（RAG）系统的新型攻击范式——话语级意见操纵。RAG系统通过结合外部语料库来增强大语言模型的回答，但这也引入了检索内容投毒的安全风险。现有攻击大多聚焦于单个查询或狭窄主题的局部查询集，实际影响有限且易于察觉。
Schema-Agnostic Knowledge Graph Construction via Hybrid Ontology Discovery for Cyber Threat Intelligence
该论文提出一种名为ANCHOR的架构无关的知识图谱构建系统，用于自动化地从网络威胁情报（CTI）报告中提取结构化知识。现有CTI平台如STIX通常将威胁情报简化为孤立的指示器（IoC），而基于本体的表示能够保留语义关系以支持结构化威胁分析。
BraveGuard: From Open-World Threats to Safer Computer-Use Agents
计算机使用代理（Computer-use agents）将语言模型从文本生成扩展到与文件、终端、浏览器和外部工具的持续交互。这种范式转变带来了新的安全风险，因为恶意行为往往只有通过多步执行轨迹才能显现，而单步动作看似无害。现有安全检测方法依
AMP: A Vendor-Neutral Wire Format for Agent Memory Operations
该论文提出了一个名为 memorywire 的供应商中立的线格式（wire format），用于代理内存操作。当前多种代理内存框架（如 mem0、Letta/MemGPT、Cognee、Zep/Graphiti、MemoryOS、MemTe
SS-ZKR: Spatial-Semantic Zero-Knowledge Routing for Privacy-Preserving Multi-Agent Collaboration
该论文提出了一种名为SS-ZKR（空间语义零知识路由）的隐私保护路由协议，旨在解决现有代理互操作性标准（如Agent-to-Agent协议和模型上下文协议MCP）在跨组织信任边界传输时无法保护载荷内容隐私的问题。当前，尽管W3C去中心化标识
Benchmarking Security Risk Detection and Verification in Open Agentic Skill Ecosystems
本文针对开放智能体平台中社区贡献的技能（skills）带来的供应链安全风险，提出了一个两阶段安全审查基准——SkillVetBench。第一阶段对每个技能的自然语言规范进行语义审查，检测隐藏的恶意意图；第二阶段在沙箱中执行标记的技能以观察运
Adversarial Feeds Steer LLM Agent Decisions Against Their Defaults
该论文研究了LLM智能体在接收外部排序信息流（如社交媒体动态、搜索结果、检索上下文和邮件队列）后的决策行为。传统安全评估通常只测试模型本身或用户提示，而忽视了上游排序器（即决定智能体在行动前阅读哪些内容的排序层）的影响。作者设计了一个受控的
Framework for Discovering GPS Spoofing Attacks in Drone Swarms
本文研究无人机蜂群中GPS欺骗攻击的传播漏洞。现有研究多关注蜂群控制算法的改进，而安全方面关注不足。作者指出攻击者可通过GPS欺骗攻击单个蜂群成员（目标无人机），间接导致其他成员（受害无人机）偏离航线并发生碰撞，这种现象称为蜂群传播漏洞（S
Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
本文研究了大型语言模型 (LLM) 在跨代际间的安全对齐是否单调提升。作者选取 Google 的 Gemma 系列四代模型（7B-31B），采用质量多样性进化算法（MAP-Elites）作为自动化红队探测工具，对模型进行对抗性攻击生成和评估
Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety
当前针对大型语言模型（LLM）的对抗性测试方法存在覆盖不足的问题：人工红队测试难以规模化、LLM作为攻击者的方法容易出现模式崩溃（产生重复或相似攻击）、基于梯度的攻击则生成不可读的乱码。本文提出一种质量多样性（Quality-Diversi
The Invitation Trap: Proactive Availability Backdoor in LLMs via Conversational Induction
本文提出一种名为“主动可用性后门”（Proactive Availability Backdoor, PAB）的新型后门攻击范式，针对大型语言模型（LLM）的安全威胁。与传统的被动后门攻击不同，PAB将攻击向量从被动等待转变为主动社会工程，
Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era
这篇论文探讨生成式AI（GenAI）对内容真实性带来的系统性风险。作者提出了“真实性债务”（authenticity debt）概念：组织在部署AI生成内容时，若未保留可验证的来源、完整性和问责机制，将累积机构性负债，未来可能在监管、法律或
Same Payload, Different Channel: Measuring Trust Asymmetry in Tool-Using Language Models
本文研究语言模型在扮演代理角色时，不同信息通道（用户消息、工具元数据、工具输出）对恶意指令的响应差异。作者提出安全不对称分数（Safety Asymmetry Score, SAS），通过保持恶意文本内容相同、仅改变传递上下文，衡量模型对来
"I Strongly Suspect This Website Is a Scam": Benchmarking PII Leakage and Detection without Defense in Autonomous Web Agents
该论文系统性地研究了自主Web智能体在面对社会工程攻击时泄露用户个人可识别信息（PII）的问题。作者首先指出，互联网上广泛存在的欺骗性Web内容（即社会工程攻击）能够操纵自主Web智能体将用户的PII提交给攻击者控制的端点。为了量化这一风险
Confused ChatGPT: Cross-App Context Poisoning via First-Party APIs
2025年10月6日，OpenAI发布了ChatGPT应用程序，引入了应用内应用（app-in-app）范式：第三方应用与用户及所有其他已连接的应用共享同一个聊天上下文。该生态系统从2025年12月的122个应用迅速增长到2026年5月的8