Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback
本文研究了大型语言模型（LLM）代理在使用外部工具时面临的一种新型安全威胁：认知中毒（cognitive poisoning）。在这种攻击场景下，恶意工具在探索阶段表现得合理且有用，通过提供看似无害的反馈逐步积累代理的信任，只有当隐藏状态条
#agent-security
共收录 1542 条相关情报。
← 返回所有主题ContraFix: Agentic Vulnerability Repair via Differential Runtime Evidence and Skill Reuse
本文提出了一种名为 ContraFix 的自动化漏洞修复（AVR）智能体框架，旨在解决当前基于大语言模型（LLM）的智能体在修复真实世界漏洞时存在的两个核心问题：语义误解和技能复用不足。现有智能体通常仅从单一失败执行（如崩溃报告）进行推理，
Ablating Safety: Mechanisms for Removing Alignment in Language Models for Security Applications
本文研究了如何安全地移除语言模型中的安全对齐机制，以用于授权的网络安全任务。安全对齐的模型通常会对看似滥用的网络安全请求（即使实际上是被授权且防御性的）进行拒绝，导致安全评估模糊不清——失败的回答可能源于能力不足或拒绝策略干预。作者提出将对
ADR: An Agentic Detection System for Enterprise Agentic AI Security
本文提出了Agentic AI Detection and Response (ADR) 系统，这是首个大规模、经过生产验证的企业级AI代理安全框架，专门用于保护通过Model Context Protocol (MCP) 运行的AI代理。
LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails
本文提出了一种名为潜在策略护栏（Latent Policy Guardrail, LPG）的框架，旨在解决大语言模型（LLM）作为定制化助手部署时面临的安全策略动态变化问题。传统护栏通常需要针对固定策略重新训练，难以适应推理时由用户、组织或
ASPI: Seeking Ambiguity Clarification Amplifies Prompt Injection Vulnerability in LLM Agents
本文研究了大型语言模型（LLM）代理（agent）在寻求澄清（clarification-seeking）行为下的安全性问题。澄清行为通常被视为代理的理想属性，允许其在执行不明确任务前先解决歧义。然而，作者发现这种交互模式会显著增加代理对提
When Efficiency Backfires: Cascading LLMs Trigger Cascade Failure under Adversarial Attack
该研究首次系统性地揭示了大型语言模型（LLM）级联系统在对抗性攻击下的脆弱性。LLM级联系统通过轻量级模型处理常规查询，仅将复杂请求转发给更强大的模型，旨在平衡效率与性能、降低计算成本和延迟。然而，这种级联设计引入了新的攻击面：前端轻量模型
The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort
本论文复现并扩展了 Spracklen 等人 (USENIX Security '25) 关于代码生成大语言模型 (LLM) 产生包名幻觉的研究。Spracklen 的工作表明，LLM 在生成 Python 或 JavaScript 代码时
Securing LLM Agents Need Intent-to-Execution Integrity
本文是一篇立场论文，旨在为大型语言模型（LLM）智能体建立端到端的安全正确性定义。作者提出，现代LLM智能体运行在一个“意图到执行”的流水线上：用户以自然语言表达意图，智能体将其翻译为具体的系统操作（如工具调用、API请求和代码执行）。当前
Harnessing Vital Sign Vibration Harmonics for Effortless and Inbuilt XR User Authentication.
随着扩展现实（XR）头戴设备日益成为大量敏感数据的存储库和Web应用的入口，确保用户身份认证的安全与便捷变得至关重要。传统的密码/PIN方案不适合XR的基于手势和语音的交互界面，且容易受到肩窥攻击；部分新系统引入了双因素认证，但需要第二设备
\textsc{PrivScope}: Task-scoped Disclosure Control for Hybrid Agentic Systems
本文提出PrivScope，一种针对混合本地-云端智能体系统的任务范围披露控制机制。在混合智能体系统中，本地代理会收集用户请求的上下文（包括持久工作状态）以增强任务完成度，但这也导致了过度披露问题——云端负载中包含了与当前任务无关的敏感信息
SLEIGHT-Bench: A Benchmark of Evasion Attacks Against Agent Monitors
本文提出了 SLEIGHT-Bench（Subtle Low-itEration Insight-Guided Harmful Transcripts），一个用于评估 AI 编码代理监控器规避攻击的基准测试。随着自主编码代理产生大量复杂行为
Compile-time Security Analysis and Optimization of Sensitive String Producers
本文针对软件中普遍存在的内容组合漏洞（如XSS、注入），指出现有缓解手段（开发者培训、静态分析、模板语言）效果递减，且AI代码生成继承了训练数据中的不安全模式并缺乏自我纠正的可靠上下文。作者提出一个通用安全内容组合框架，该框架跨内容语言扩展
PCDM: A Diffusion-Based Data Poisoning Attack Against Federated Learning Systems
联邦学习（FL）因其分布式特性易受数据投毒攻击。现有基于GAN的投毒方法虽能生成看似合法的恶意数据，但GAN输出的内在一致性仍会暴露投毒痕迹。本文提出一种基于扩散模型的数据投毒框架，利用面向投毒的条件扩散模型（PCDM）实现对本地恶意数据生
Who Owns This Agent? Tracing AI Agents Back to Their Owners
该论文首次正式提出了AI代理（AI Agent）的归属问题（agent attribution）：即如何将一个观察到的有害代理交互行为追溯到其部署账户（托管供应商）。当前AI代理被广泛部署以自主执行任务，但缺乏有效的追踪机制，导致良性操作者
PersonaFingerprint: Measuring Persona Inference on Modern Websites with LLM-Driven Browsing
本文提出了一种新的隐私风险：攻击者可以通过分析加密网络流量的元数据（如数据包长度和到达间隔时间序列），推断用户在线浏览时的“persona”（角色或行为模式），而不仅仅是访问了哪个网站。传统网站指纹识别（WFP）主要关注识别用户访问的网站，
From AI-Generated Content to Agentic Action: Security and Safety Threats in Generative AI
该论文系统性地研究了生成式AI系统从单纯的内容生成向具备数据检索、工具调用和动作执行能力的代理化转变过程中面临的安全与安全威胁。作者将威胁划分为三个层次：内容级（如生成虚假信息、有害内容）、模型级（如提示注入、模型提取）和代理级（如工具链滥
Asking Back: Interaction-Layer Antidistillation Watermarks
这篇论文针对大型语言模型（LLM）API服务中难以检测的未授权知识蒸馏问题，提出了一种新颖的交互层反蒸馏水印方案。现有防御手段主要在教师模型的输出token层面施加水印，例如绿名单水印、密码学方案或反蒸馏采样，但这些方法容易被攻击者通过改写
Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise
本文研究了在大语言模型（LLM）控制的多机器人协作系统中，通过单一机器人被攻陷后传播不安全行为的安全威胁。随着LLM在具身智能中作为通用规划器的广泛应用，其在高层次协调和低层次任务规划中发挥关键作用，但同时也引入了新的安全风险：被操纵或对齐
Talk is (Not) Cheap: A Taxonomy and Benchmark Coverage Audit for LLM Attacks
本文提出一个可复用的框架，用于审计LLM攻击基准测试对威胁表面的覆盖度。作者从932篇2023-2026年的arXiv安全研究中提取了507个叶节点（其中401个有数据填充，106个来自威胁模型推导）的推理时攻击分类法，并基于STRIDE模