Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
#agent-security
共收录 1542 条相关情报。
← 返回所有主题The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security
该论文指出当前 LLM 智能体（LLM-Agent）安全领域已积累大量防御手段——提示词加固（prompt hardening）、内容过滤、权限闸门、沙箱等——但缺乏统一框架告诉部署者一项防御究竟提供了什么保证、这种保证来自何处。作者引入「
Autonomous Active Directory Exploitation via Multi-Model Harness Orchestration: A Benchmark Study with NeuroSploit on GOAD
该论文聚焦 Active Directory（AD）这一企业身份与访问管理核心基础设施，评估大语言模型（LLM）在自主渗透测试中的可行性与可靠性。作者指出，既有研究虽已证明 LLM 可自主完成“假定失陷”条件下的 AD 渗透，但普遍使用孤立
Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents
这篇论文研究一个在 LLM Agent 安全部署中非常现实的问题: 当团队要为 Agent 选择提示注入(prompt injection)检测器来筛查工具输出(tool outputs)时, 通常依据的是厂商或论文在公开基准上的分数, 但
Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能
Defense-in-Depth at the Perception-Reasoning Interface of LLM-Centric Agentic UAV Swarms
该论文研究的是以 LLM 为核心的智能体化无人机蜂群（LLM-Centric Agentic UAV Swarms）在「感知—推理接口」处面临的完整性风险，并首次对该接口的纵深防御做了完整实现与量化评估。研究背景是：LLM 越来越多地被用于
EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents
该论文针对「工作区智能体」（Workspace Agents）的运行期安全风险，提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架（harness）结合，能够执行有状态、多步骤的任务，并访问或修
Securing Computer-Use Agents Against Branch Steering Attacks
该论文研究的是计算机使用代理（Computer-Use Agents, CUA）在图形界面环境下面临的一类新型间接提示注入风险——分支引导攻击（branch steering attack），并提出相应的防御架构 COBRA。背景方面：现代
SecJev: Bringing Security Expertise to System One Decision Models
该论文提出 SecJev，作者称其为首个面向安全领域的 Jev 类决策模型家族，参数规模覆盖 0.8B 到 9B。其出发点是：安全运营流程需要模型把复杂观测与显式策略转化为可执行决策，而 Jev 提出的 System One 模型能输出带类
Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents
该论文聚焦 LLM Agent 安全分析中的一个基础性难题：如何判定模型生成的决策是否会真正触达安全敏感能力。现有方法通常以「预定义的敏感操作（sink）」作为分析锚点，例如命令执行、文件系统读写、网络通信、浏览器控制以及外部工具调用等。但
AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents
本文聚焦于自主渗透测试智能体与蜜罐防御之间的攻防博弈。这类智能体能够根据目标返回结果持续调整多步攻击计划，具备较强的自适应与多轮探测能力；而传统蜜罐主要依赖静态诱饵和预定义响应，无法随智能体策略演化而调整，容易被识破、绕过或快速放弃，难以长
Containing the Autonomous Operator: A Defense-in-Depth Framework and Reference Architecture for Securing AI Agents on Kubernetes
该论文针对大语言模型（LLM）智能体从聊天界面走向基础设施运维这一现实趋势，提出了一个在 Kubernetes 上安全承载 AI 智能体的纵深防御框架与参考架构。作者指出，当智能体能够读取遥测、调用工具、生成并执行代码、直接改变生产 K8s
Pincer: Resource Authorization for Agents using a Digital Twin
该论文关注长周期自主编码智能体（coding agent）在安全授权方面的结构性缺陷。当前主流智能体（如 Claude、Codex）具备长时程自主执行、依赖通用 shell、并维护持久化记忆以自我改进等能力，这些能力在提升生产力的同时也扩大
SideKernel: A Usable microVM Sandbox for AI Coding Agents on macOS
本文聚焦 AI 编程智能体（AI coding agents）在本地开发机上运行时的安全悖论：这类智能体在架构上属于不可信组件，却需要在其所运行的开发者机器上被赋予相当程度的自主执行权限。作者认为这一矛盾本质上是一个安全问题，而沙箱是提供隔
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
该学位论文系统研究如何评估并提升大语言模型（LLM）对输入序列变异的鲁棒性，直面生产系统中三类现实威胁：提示注入、木马/后门植入，以及对自动质量评测指标（LLM-as-a-Judge）的操纵。作者首先提出生成式鲁棒性度量 R_stab(f)
Hop-Decayed Influence: New Vulnerabilities of Structural Auxiliary Indexing in GraphRAG Pipelines with LLM
该论文关注的是一种此前被忽视的攻击面：GraphRAG（图增强检索生成）流水线在离线索引阶段会生成大量「辅助结构」，包括语义摘要、层级边以及预计算的评分/排序结果，这些产物并不属于原始知识图谱的实例数据，却在查询时直接决定检索的优先级与召回
MIRROR: Multipath Quorum Integrity for LLM Multi-Agent Communication
该论文聚焦大型语言模型多智能体系统（LLM-MAS）中一个被忽视的攻击面：智能体之间的通信链路。作者提出「中间智能体攻击」（Agent-in-the-Middle, AiTM）——攻击者并不攻陷任何智能体本身，而是在消息传输过程中篡改内容，
KaliBench: A Fine-Grained Benchmark for Cybersecurity Tool Use on Kali Linux with Runtime-Free Verifiable Rewards
该论文针对一个被忽视的评测缺口：大语言模型正被越来越多地用于网络安全工作流，需要把分析师的意图翻译成对真实安全工具的调用，但现有评测要么停留在知识问答层面，要么只评估端到端 agent 任务完成情况，并未直接衡量模型为真实网络安全工具生成「
The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching
该论文关注大语言模型（LLM）及其 Agent 在代用户获取外部信息时衍生出的新型数据外泄风险。作者指出，现有研究主要聚焦两类威胁：提示注入，以及机密数据被发送给聊天机器人服务商；业界也提出了输入结构化、本地部署模型等缓解手段。但论文强调，
SoK: Decentralized Agent Economic Infrastructure
本文是一篇系统性知识梳理（SoK），聚焦“去中心化智能体经济基础设施”。核心问题是：当前去中心化智能体经济中的任务，往往由多个在设计阶段彼此独立、安全假设互不相通的协议拼装而成，于是出现“每一步看起来都正确、整体结果却错误”的失效模式。论文