Scanning the Harness: An Empirical Study of Supply-Chain Defects in AI Coding-Agent Configurations
该论文针对AI编码助手（如Claude Code、Cursor、GitHub Copilot、OpenAI Codex）的供应链安全缺陷进行了实证研究。这些工具通常通过开发者编写和共享的配置文件（指令文件、技能、钩子、MCP服务器声明、子代
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Staying on the Attack Path: Structured State for Long-Horizon Automated Penetration Testing
本文针对基于大型语言模型（LLM）的智能体在长周期自动化渗透测试任务中面临的上下文遗忘和意图漂移问题，提出了一种名为Intentest的意图图引导的自动化渗透测试智能体。在长时间交互中，早期发现的关键事实和因果推理链容易丢失，导致智能体陷入
Robust Decentralized Personalized Federated Learning via Prediction-Constrained Neighborhood Collaboration
该论文提出了一种鲁棒的分散式个性化联邦学习方法 R-DPFL，旨在解决现有分散式联邦学习在面对拜占庭攻击时容易受到恶意客户端影响的问题。与传统的中心化联邦学习不同，分散式场景中每个客户端只与邻居交换模型更新，没有全局协调者，因此恶意邻居可能
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
本文提出了一种针对基于世界模型的强化学习智能体的后门攻击框架 TrojanWorld。世界模型作为模型-based 强化学习智能体的预测核心，使智能体能够在执行动作前模拟未来动态并基于想象轨迹进行推理。由于其训练成本高昂，预训练世界模型常被
CIPHER: Benchmarking Cross-record Inference over Privacy-Hardened Evidence Records
CIPHER 是一个面向隐私脱敏证据记录上的跨记录推理基准测试。在金融、医疗和执法等真实场景中，推理往往需要同时结合结构化属性（如表格字段）与自由文本叙述中的非结构化证据，而隐私保护措施（如脱敏、替换）会进一步增加推理难度。现有数据集大多只
Lightweight Detection of Electromagnetic Signal Injection Attacks on Image Sensors
本文研究电磁信号注入攻击（ESIA）对图像传感器的威胁及其检测方法。ESIA 通过发射电磁干扰来操纵图像传感器的像素值，从而误导依赖视觉输入的人工智能模型，导致不安全决策。随着图像传感器在智能系统（如自动驾驶、监控、机器人）中的广泛部署，此
AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
本论文提出了 AgentDrift，一个用于研究针对 LLM 代理的间接提示注入劫持轨迹的逐步标注基准。LLM 代理通过调用工具完成任务，而每次工具返回的观察结果都可能成为间接提示注入的入口。成功的注入在按顺序读取轨迹时呈现特殊形态：一段良
MOLE: Detecting Insider Threats in AI Agents
该论文提出了 MOLE（Monitoring for Insider Threats in AI Agents），一个用于评估防御方能否在 AI Agent 操作的高权限账户中检测内部威胁的开源基准。研究背景是：模型未对齐、提示注入或操作者
Skynet: Workflow-Level Anomaly Detection for Agentic AI via Semantic and Structural Modeling
本文提出 Skynet，一个面向 Agentic AI 的工作流级异常检测框架。Agentic AI 系统通过长期多步骤工作流执行复杂任务，涉及规划、工具调用和多智能体协作。任务失败往往起源于单个步骤（如注入提示或错误计划），并通过下游依赖
AURA-Eval: Evaluation Framework for Acting Under Risk Awareness in LLM Agent Trajectories
本文提出 AURA-Eval，一个用于评估大语言模型智能体在工具调用轨迹中“风险感知下的行动”能力的框架。现有安全评估往往将行为简化为单一分数，难以区分模型是否真正识别风险、是否在行动前有预检测能力，以及在存在安全解决方案时能否安全完成任务
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
本文针对隐私保护大语言模型（LLM）推理中的嵌入到嵌入混淆（Embedding-to-Embedding Obfuscation, E2EO）机制提出了一种新的攻击方法——代理流形对齐（Proxy Manifold Alignment, P
Federating Trust Perimeters: Extending Industry IAM with DLT-Based Governance
本文关注数字系统日益集成化、自主化和协同化背景下，非人类实体（NHE，如AI代理、未来移动网络节点、机器对机器经济中的设备）之间自发、跨组织、非计划性交互的信任建立问题。作者指出，传统联合（Federation）方案，包括OpenID Fe
A Translational Note on AI Safety Evaluation
该论文是一篇关于AI安全评估方法的评论性研究，聚焦于自动化红队与人工红队在标准AI安全基准上的表现对比所引发的误读。近期研究声称自动化红队能以更低成本发现更多漏洞，并有人据此认为人工评估者正变得可有可无。作者指出，这种比较存在根本性的测量与
CAPMAS: Capability-Based Delegation of Privileges in Multi-Agent Systems
本文提出了一种面向多智能体系统（Multi-Agent Systems, MAS）的安全权限委派架构 CAPMAS。在多智能体协作执行任务时，如何安全、高效地在多个协作智能体之间委派权限是关键挑战。现有方法分为两类：一类直接将用户身份传播给
Dissecting Click Fraud Autonomy in the Wild.
本文研究移动广告网络中点击欺诈（click fraud）的一种新型变体，称之为“人形攻击”（humanoid attack）。点击欺诈利用按点击付费（pay-per-click）机制，通过自动化或伪造方式产生虚假点击，给广告主造成巨大经济损
Wallbleed: A Memory Disclosure Vulnerability in the Great Firewall of China.
该论文在 NDSS 2025 被接收，但引发了激烈争议。论文题为《Wallbleed: A Memory Disclosure Vulnerability in the Great Firewall of China》，从标题看，它报告了中
CounterSEVeillance: Performance-Counter Attacks on AMD SEV-SNP.
CounterSEVeillance 是一篇针对 AMD SEV-SNP 机密虚拟机的新型侧信道攻击研究。SEV-SNP 是一种处理器扩展，旨在通过可信执行环境保护虚拟机的完整性和机密性，即使在共享托管环境中也能防止恶意管理程序访问客户机内
Beyond QA Matching: Perturbation-Response Fingerprinting via Probability Distributions for Large Language Models
本文针对大语言模型（LLM）在指令微调、专用化、量化等变换后难以进行细粒度来源追溯的问题，提出了一种无需训练的模型指纹方法 BReF（Perturbation-Response Fingerprinting）。BReF 的核心思想是：对于四
It is Not Yet Another Tool: Creating and Deploying an Agentic AI Companion in a Security Operations Center
本文介绍了作者团队在真实安全运营中心（SOC）中设计、开发并部署一个智能体式 AI 助手（agentic AI companion）的长期实地研究成果。SOC 每天需要处理大量工单，其中绝大多数是低关注度事件，不值得深入调查，而这类重复性劳
Counter-Swarm Doctrine: Containing Coordinated Agent Intrusions
本文提出“反制蜂群”（Counter-Swarm Doctrine）概念，聚焦于多智能体（agents）如何将共享基础设施用作协调入侵的通道。作者从Hugging Face安全事件和一次公开wiki调查入手，指出传统安全评估往往只关注单次执