Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文提出并实现了一个名为 Trident 的智能体化 LLM 红队框架，用于评估和攻破基于深度强化学习（DRL）的自主网络防御系统。研究背景在于：现有的 DRL 防御评估几乎完全依赖静态或启发式红队智能体，缺乏对自适应威胁的鲁棒性检验；同
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents
本文针对模块化LLM安全代理的轨迹级风险认证问题展开研究。自主安全代理通常以分阶段流水线方式运行，例如先对网络流量进行分类，再进行攻击技术归因。分割共形预测虽能为每个阶段提供有限样本覆盖，但整个链路的轨迹级保证不能由各阶段保证简单组合。论文
Behavioral Skill Reconstruction: Reconstructing Hidden Functionality from LLM Agent Skills
该论文提出了“行为技能重建”（Behavioral Skill Reconstruction, BSR）问题，聚焦于闭源 LLM Agent 技能（skill）的功能泄露风险。此前研究主要关注提示注入攻击，试图直接披露技能中隐藏的指令、脚本
NEBULA: A Language - Independent Specification for Opaque Rotating Refresh Tokens
本文提出 NEBULA，一个针对 OAuth 2.0 刷新令牌（refresh token）的、与编程语言无关的精确规格说明，旨在解决 RFC 9700（OAuth 2.0 安全最佳当前实践）中只规定策略而未规定机制的问题。刷新令牌是现代认
Progressive Learning of a Diffusion-based Inpainting Model for Separating Overlapped Fingerprints
本文针对指纹识别中重叠摩擦脊线（overlapped friction ridge patterns）的分离问题提出了一种基于扩散模型（diffusion model）的新型流水线方法。在犯罪现场提取的潜指纹以及活体扫描场景中，传感器上残留
FBID: Adaptive Personalized Federated Learning for Robust Out-of-Distribution Attack Detection in IoT Networks
本文针对异构物联网环境中的入侵检测问题，提出了一种名为FBID（Federated Bandit Intrusion Detection）的自适应个性化联邦学习框架。现有基于个性化联邦学习（PFL）的入侵检测方法通常依赖客户端自行调整模型，
An Inline Control Architecture for Language Models in Intelligent Transportation Systems
本文针对智能交通系统（ITS）中车联万物（V2X）环境下大语言模型（LLM）应用的安全问题，提出了一种名为 Guarded-V2X 的内联语义护栏架构。随着 V2X 系统在路侧单元和边缘节点上越来越多地集成 LLM 用于消息摘要、操作员辅助
When Agents Learn to Be You: Benchmarking Privacy Leakage, Impersonation Risk, and Defenses in Persona Skills
该论文聚焦于大语言模型智能体中“人格技能（Persona Skills）”这一新型个性化机制的安全风险。人格技能将个人交互历史压缩为可移植、可执行的工件，供下游智能体复用。论文指出，这一过程将分散的个人信号集中化，并通过复用放大其影响，使传
A Security-Oriented Lifecycle Model for Large Language Model Systems
本文提出了一种面向安全分析的大语言模型（LLM）系统生命周期模型。研究背景是：LLM 正以前所未有的规模被集成到关键基础设施和企业工作流中，但现有的生命周期框架主要面向运营效率设计，而非安全分析，导致数据来源验证、工件签名、智能体权限控制、
DiagChain: A Diagnostic Benchmark for Evaluating LLM Agents on Evidence-Grounded Attack Chain Reconstruction
本文提出 DiagChain，一个面向大语言模型（LLM）智能体的诊断性基准测试，用于评估其在证据支撑下的攻击链重建能力。攻击链重建是网络安全中的关键任务，要求智能体从异构遥测数据中检索并解释证据，推断出有序的攻击者行为。现有基准大多只评估
ReputationChain: Robust Trust Updating for Blockchain-Enabled Supply Chains
本文提出 ReputationChain，一个面向区块链供应链的参与者信任更新框架。研究背景是：区块链虽然能保证供应链记录的完整性，但仅凭账本完整性无法判断参与者在未来风险敏感交易中是否值得信任。现有声誉系统主要关注产品证据、全局反馈聚合或
SkillJack: Persistent Skill Backdoors in Self-Evolving Agents
本文提出了一种针对自进化智能体（self-evolving agents）的新型攻击方法 SkillJack。自进化智能体会将交互历史转化为可复用的技能（skills），这些技能可以跨任务持久保存。以往研究关注的是记忆与检索投毒，但此类攻击
SkillSentry: Adaptive Honey Worlds for Dynamic Safety Testing of Agent Skills
该论文提出 SkillSentry，一个针对大型语言模型（LLM）智能体外部技能（Agent Skills）的动态安全测试框架。研究动机在于：外部技能在扩展智能体能力的同时，引入了执行时攻击面——一个静态检查看似良性的技能，只有在特定环境状
AgentAntibody: An Adaptive Immune System for Defending LLM Agents against Prompt Injection
本文针对大型语言模型（LLM）代理面临的提示注入（prompt injection）威胁，提出了一种基于自适应免疫原理的防御框架 AgentAntibody。研究背景是：现有防御方法将每个任务视为孤立问题，缺乏对先前遭遇的学习能力；而实际用
Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity
本文研究多智能体协同过滤（CF）系统中的攻击与防御问题，特别关注系统连接性如何影响这些攻击和防御的效果。多智能体CF系统由多个自主的大语言模型（LLM）驱动的用户智能体和物品智能体组成，它们通过自然语言交互来细化偏好并生成推荐。这类系统既继
Test-time reasoning effort and unauthorized tool use in language-model agents: a prespecified equivalence study
本研究针对语言模型代理在多步骤工作流中通过工具调用执行任务时，推理努力参数（reasoning effort）是否会影响未授权工具使用率的问题，开展了预设的等价性研究。以往研究未在单一模型内通过直接操纵该参数进行测试。作者使用GPT-5.6
CLEAR: Causal Context-Based Agentic Reasoning for Vulnerability Detection
该论文提出了一种名为 CLEAR (Causal Context-based Agentic Reasoning) 的新型多智能体漏洞检测框架，旨在解决现代软件漏洞检测中难以建模复杂因果依赖关系的问题。传统方法（包括基于大语言模型和多数多智
DHMark: Public-Key Watermarking for LLM-Generated Text via Diffie-Hellman-Guided Rejection Sampling
大语言模型（LLM）水印技术是追踪生成文本来源的重要机制。现有的统计水印方法通常有效且鲁棒，但多数依赖私有检测密钥，导致验证集中化并难以进行公开审计。近年出现的公开或公开可验证水印方案改善了密钥管理，但许多方案依赖于精确恢复嵌入的密码学字符
Prompt Injection Attack to Tool Selection in LLM Agents.
本文研究了大语言模型（LLM）智能体中工具选择环节的安全漏洞。在典型的 LLM 智能体架构中，工具选择通常采用“检索-选择”两步流程：先从工具库中检索候选工具，再根据任务选择最合适的工具。作者提出一种名为 ToolHijacker 的新型提
AI Security Leaderboard: Methodology, Results and Minimal Standard
本文提出了 FAR.AI 人工智能安全基准（AI Security Leaderboard）的首个版本，并详细介绍了其方法论、结果与最低标准（Minimal Standard for Safeguards, Version 1.0）。研究背