How Agentic AI Coding Assistants Become the Attacker's Shell
这篇论文研究了一种针对Agentic AI编码助手的新型安全威胁。Agentic AI编码助手（如GitHub Copilot、Cursor等）能够代表开发者执行文件编辑、命令运行、互联网访问等操作，显著提升开发效率。然而，它们对外部工件（
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Evo-Attacker: Memory-Augmented Reinforcement Learning for Long-Horizon Tool Attacks on LLM-MAS
该论文关注于基于大语言模型的多智能体系统（LLM-MAS）中的工具攻击问题。LLM-MAS通过协调专门的智能体和外部工具来解决复杂任务，但系统对工具输出的隐式信任造成了关键攻击面。现有工具攻击方法受限于领域特定性或使用固定的静态模板。为此，
KYA: A Framework-Agnostic Trust Layer for Autonomous Systems with Verifiable Provenance and Hierarchical Policy Composition
该论文提出了KYA（Know Your Agents），一个框架无关的自主系统信任与治理层，旨在解决AI智能体运行中可能出现的错误、偏离、数据泄露或恶意行为等问题。K YA由五个核心原语组成：(1) 四门入站应用管道，结合Ed25519签名
Decoupling Reentrancy Protection from Smart Contract Implementation Logic
本论文针对去中心化应用（DApps）中持续存在的重入攻击威胁，提出了一种名为Sentinel的新型代理方法。重入攻击利用以太坊虚拟机（EVM）的合约间消息传递语义，去年已导致约8000万美元的损失。现有研究主要聚焦于检测，依赖已知攻击模式，
Pre-Characterization of Electromagnetic Side-Channel Leakage Using Publicly Available Information: A Case Study on E-Voting Interfaces
本文研究了巴西电子投票机（BVM）界面的电磁侧信道泄漏问题，属于TEMPEST攻击范畴。TEMPEST攻击中，攻击者利用软件定义无线电（SDR）截获视频信号传输过程中产生的无意电磁辐射，从而恢复敏感信息。作者借助选举机构公开披露的技术规格、
Device Context Protocol: A Compact, Safety-First Architecture for LLM-Driven Control of Constrained Devices
该论文针对大型语言模型（LLM）通过工具调用控制物理设备时面临的安全挑战，提出了一种名为Device Context Protocol（DCP）的紧凑、安全优先的通信协议。现有方案如Model Context Protocol（MCP）及其
Furina: Fragmented Uncertainty-Driven Refusal Instability Attack
该论文挑战了主流观点：大语言模型（LLM）和多模态大语言模型（MLLM）的安全对齐并非近似二元的阈值机制。作者通过实验揭示，安全行为实际上由一个不稳定性区域（instability region）主导，在该区域内，微小的扰动会导致模型做出随
MemMark: State-Evolution Attribution Watermarking for Agent Long-Term Memory Systems
该论文提出了一种名为 MemMark 的状态演化归因水印方法，旨在解决基于大语言模型（LLM）的智能体长期记忆系统中的归因问题。在传统的记忆系统中，智能体的行为通常通过日志、可见输出或受信任的元数据进行追踪。然而，当记忆快照被泄露或迁移时，
APT-Agent: Automated Penetration Testing using Large Language Models
该论文提出了一种基于大型语言模型（LLM）的全自动渗透测试框架 APT-Agent，旨在解决传统手动渗透测试难以应对现代Web基础设施的规模和复杂性，以及现有LLM方法中存在的技术实体幻觉和长期上下文记忆不足的问题。APT-Agent系统化
Memory-Induced Tool-Drift in LLM Agents
该论文研究了现代LLM代理系统中长期记忆与工具调用接口结合时出现的一种新故障模式：存储在记忆中的个性驱动偏见（如成本意识、不耐烦、风险承受能力等）会在不相关的情境中悄然影响工具调用，作者称之为“记忆诱导的工具漂移”。为了系统化研究这一现象，
Inverting the Shield: Systematically Generating Safety Tests from Policy Specifications
大型语言模型（LLM）的广泛部署迫切需要系统化的安全评估方法。现有方法要么依赖预定义视角的静态基准测试，要么采用动态红队探测潜在漏洞，但均存在依赖专家知识、缺乏系统保证、容易过时等局限。针对这些问题，本文提出 POLARIS 框架，将基于规
MemMorph: Tool Hijacking in LLM Agents via Memory Poisoning
本文提出了一种针对LLM驱动智能体的新型攻击方法MemMorph，通过污染智能体的长期记忆来劫持其工具选择过程。现有攻击主要操纵工具元数据，容易被审计检测，并且随着现代智能体越来越多地采用记忆模块通过积累经验来优化工具选择策略，这些攻击可能
Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection
本论文提出 Reflect-Guard，一种通过逻辑自我反思增强大型语言模型（LLM）安全分类器的方法。现有的安全分类器如 Llama Guard 能有效检测明显有害的提示，但难以应对通过角色扮演、虚构场景和间接请求伪装恶意意图的对抗性越狱
RouteScan: A Non-Intrusive Approach to Auditing MoE LLMs Safety via Expert Routing Telemetry
本文针对混合专家（MoE）大规模语言模型在部署中的安全审计问题，提出了一种非侵入式的审计框架RouteScan。现有的基于内容的审计方法需要访问用户提示、模型输入或生成输出，这可能导致敏感用户信息泄露，在LLM安全性与用户隐私之间产生根本性
CyberMaskQA: A Privacy-Aware Benchmark for Evaluating Large Language Models in Cybersecurity Question Answering
本论文提出并构建了 CYBERMASKQA，一个面向网络安全问答的隐私感知基准数据集。当前，大型语言模型（LLM）被越来越多地用于事件响应、漏洞分析等关键网络安全问答任务，但真实操作环境中的系统日志、网络配置等上下文往往包含 IP 地址、主
Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling
该论文提出了一种名为“Ellipsoid Control”的新型越狱防御方法，旨在克服基于表示工程（RepE）的防御方法依赖黑名单监督的固有缺陷。现有RepE防御通过学习有害或越狱数据到拒绝响应的激活变换来实现防护，但这类黑名单方法受限于已
Poisoning the Watchtower: Prompt Injection Attacks Against LLM-Augmented Security Operations Through Adversarial Log Content
本文研究了大语言模型（LLM）在安全运营中心（SOC）中作为分析师助手时面临的一种结构性缺陷：许多日志字段（如用户代理、URL、载荷、DNS查询、尝试用户名等）是攻击者可控制的，这些字段在输入给LLM进行分析时，可能携带恶意指令，从而引发提
Thora: Atomic and Privacy-Preserving Multi-Channel Updates.
该论文提出了一种名为Thora的协议，旨在解决区块链支付通道网络中多通道更新的原子性和隐私保护问题。在现有的闪电网络等通道网络中，多跳支付通常依赖哈希时间锁合约（HTLC）来实现原子性，但HTLC存在隐私泄露（如路径可追踪）和资金锁定效率低
Reframing LLM Agent Security as an Agent-Human Interaction Problem
本文提出了一种新视角，认为LLM Agent的安全本质上是Agent与人类交互（Agent-Human Interaction, AHI）问题，而不仅仅是纯算法问题。作者系统分析了截至2026年4月的59篇学术论文、21个生产级Agent系
Enhancing Reliability in LLM-Based Secure Code Generation
本文针对大型语言模型（LLM）在代码生成中安全可靠性不足的问题，提出了一种名为“缓解感知链式思维”（MA-CoT）的框架。现有提示工程主要提升功能正确性，但难以保证一致的安全性。MA-CoT通过嵌入任务特定的CWE（通用弱点枚举）缓解指导和