Deep-Research Agents Can Be Poisoned via User-Generated Content
该论文研究了深层研究智能体（deep-research agents）的安全漏洞。这类系统通过多智能体管道迭代检索、综合并引用网络内容，以生成结构化报告，正快速替代传统搜索。研究指出，在许多常见搜索主题中，这些智能体在单次研究会话中会多次检
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标
CHRONOS: Temporally-Aware Multi-Agent Coordination for Evolving Data Marketplaces
该论文提出了CHRONOS，一种针对时态知识图谱数据市场的三层架构，旨在解决静态设计中的三个耦合失效问题：陈旧混合索引导致召回率下降、静态Shapley定价在分布偏移后价值误分配、未协调的代理过度消耗共享差分隐私预算。第一层采用神经ODE时
When the Manual Lies: A Realistic Benchmark to Evaluate MCP Poisoning Attacks for LLM Agents
本文系统性地研究了针对大型语言模型（LLM）代理的工具描述投毒（Tool Description Poisoning, TDP）攻击。这类攻击并不修改工具的可执行代码，而是将恶意指令隐蔽地注入到工具的元数据描述中——即代理用于安全规划和决策
Security, Privacy, and Ethical Risks in OpenClaw
本文系统性地研究了OpenClaw这一本地可执行AI代理系统的安全、隐私与伦理风险及可追溯性挑战。OpenClaw支持自然语言交互和真实世界任务完成，在个人助理、办公自动化、跨平台任务管理和信息集成方面展现出强大潜力。然而，这种高度权限的代
Are Frontier LLMs Ready for Cybersecurity? Evidence for Vertical Foundation Models from Dual-Mode Vulnerability Benchmarks
本文评估了前沿大语言模型（LLM）在网络安全任务中的实际能力，通过构建双模式基准测试：白盒函数级漏洞检测（VulnLLM-R，涵盖C/Java/Python）和黑盒Web应用安全测试（五个生产风格的应用，包含118个真实漏洞，覆盖20多个C
TriSweep: A Four-Drone Swarm Framework for Electromagnetic Side-Channel Analysis
该论文提出了 TriSweep，一个基于四无人机蜂群架构的仿真框架，用于对嵌入式微控制器进行远程电磁侧信道分析（EM-SCA）。传统 EM-SCA 威胁模型假设探头静止且贴近目标，低估了空中移动平台的攻击能力。TriSweep 包含三架专用
Measuring Security Without Fooling Ourselves: Why Benchmarking Agents Is Hard
本文聚焦于评估AI智能体在安全关键角色中的基准测试所面临的严重缺陷。作者基于最新实证证据，总结了三大核心挑战：基准漏洞（benchmark vulnerabilities）、时间陈旧性（temporal staleness）和运行时不确定性
Benchmarking Autonomous Agents against Temporal, Spatial, and Semantic Evasions
本文针对基于大型语言模型（LLM）的自主智能体系统（如OpenClaw）中存在的安全漏洞进行了深入研究。现有漏洞分析大多集中在单轮、无状态的行为上，忽略了有状态多轮交互和动态工具调用带来的扩展攻击面。为此，作者提出了一种多维度逃避框架，包含
GPThreats-3: Is Automatic Malware Generation a Threat?
该论文探讨了大型文本模型（以GPT-3为代表）是否已被攻击者用于自动化恶意软件生成这一新兴威胁。研究背景是大型语言模型在代码生成方面的能力可能被滥用于恶意目的，但实际风险尚不明确。核心问题是：当前这类模型能否用于生成恶意软件？如果可以，攻击
Blind Spots in the Guard: How Domain-Camouflaged Injection Attacks Evade Detection in Multi-Agent LLM Systems
该论文研究了多智能体LLM系统中的注入攻击检测盲点。现有注入检测器主要针对静态、模板化的载荷进行校准，这些载荷通常以显式的覆盖指令形式出现。作者识别出一种系统性盲点：当注入载荷生成时模仿目标文档的领域词汇和权威结构（称为领域伪装注入），标准
Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
本文研究针对声称满足 Rényi 差分隐私 (RDP) 的机器学习算法的黑盒审计问题。作者提出一个基于假设检验的审计框架，利用 Donsker-Varadhan (DV) 变分估计器直接估计相邻执行之间的 Rényi 散度。该框架通过类别受
HIDBench: Benchmarking Large Language Models for Host-Based Intrusion Detection
该论文提出了HIDBench，一个专门评估大型语言模型（LLM）在基于主机的入侵检测（HIDS）任务中能力的基准。现有网络安全基准多聚焦渗透测试或漏洞识别，而基于系统日志的入侵检测这一关键任务尚未被系统评估。HIDBench统一了三个公开系
PocketAgents: A Manifest-Driven Library of Autonomous Defense Agents
本文提出 PocketAgents，一个基于清单（manifest）驱动的自主防御代理库，旨在将大语言模型（LLM）与防御执行决策安全地连接起来。现有方法仅依靠模型回答是否发生攻击，但防御者需要决定模型输出中哪些可以改变系统状态、哪些必须拒
Backchaining Loss of Control Mitigations from Mission-Specific Benchmarks in National Security
本文针对高风险部署场景（如国家安全）中的失控（Loss of Control, LoC）威胁，提出一种基于任务特定基准的反向链式缓解方法。研究背景是，在国防和情报等国家安全领域部署AI系统时，权限和许可（affordances and pe
An Evidence-driven Protocol for Trustworthy CI Pipelines
本文针对企业软件供应链中基础设施攻击日益增多、软件制品完整性和来源验证困难的问题，提出了一种基于证据的可信持续集成（CI）管道协议。该协议结合确定性构建系统（DBS）和可信执行环境（TEEs），为分布式环境下的CI制品提供密码学可验证的完整
GenAI-Driven Threat Detection with Microsoft Security Copilot
该论文针对当前日益复杂的网络攻击环境下，安全分析师需要不断将攻击者不断演进的战术转化为检测逻辑，导致防御者处于被动应对状态的问题。作者提出了一种名为动态威胁检测代理（DTDA）的持续自适应系统，该系统集成于Microsoft Securit
An Application-Layer Multi-Modal Covert-Channel Reference Monitor for LLM Agent Egress
该论文提出了一种针对大语言模型（LLM）代理出口流量的应用层多模态隐蔽信道参考监视器。研究背景是：LLM代理在发送消息时可能泄露数据，传统的目标允许列表和内容扫描器无法检测看似正常的载荷是否构成隐蔽信道。例如，被攻陷的代理可以将比特编码在零
Heartbeat-Bound Hierarchical Credentials: Cryptographic Revocation for AI Agent Swarms
该论文针对自主AI代理生成子代理集群时存在的安全漏洞——现有凭证撤销机制（如OAuth 2.0 introspection、OCSP、W3C状态列表）需要与中心权威机构网络连接，导致操作员关闭后“僵尸代理”仍可执行特权操作数分钟至数小时——
Pramana: A Protocol-Layer Treatment of Claim Verification in Autonomous Agent Networks
该论文提出了Pramana，一个用于自治代理网络中的声明验证的协议层解决方案。在受监管领域中，自主代理对每个关键输出必须产生一个可审计的验证工件，记录声明内容、来源、执行者、时间和方式。当前的生产验证分为两个未标准化的方向：概率性判决模式（