EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents
该论文针对「工作区智能体」(Workspace Agents)的运行期安全风险,提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架(harness)结合,能够执行有状态、多步骤的任务,并访问或修
共收录 8 条相关情报。
← 返回所有主题该论文针对「工作区智能体」(Workspace Agents)的运行期安全风险,提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架(harness)结合,能够执行有状态、多步骤的任务,并访问或修
该论文针对 AI Agent 运行时(runtime)中「把授权前置到调度边界之前」这一常见优化思路提出质疑:把授权提前确实可以缩短 Agent 的调度边界(dispatch boundary),但授权工作本身并没有被消除,反而可能放行一个
该论文针对 O-RAN 架构解耦与软件化所引入的 RIC 生态运行时安全风险,提出 rApp/xApp 运行时完整性证明(attestation)这一 RIC 原生安全用例。现有 O-RAN 规范已定义入网、认证、身份管理与安全通信等机制,
该论文研究使用大语言模型(LLM)从规范自动生成系统代码的安全问题。近期许多工作将规范视为持久工件,实现代码作为一次性产物,可随工作负载和设备变化而再生成;其隐含前提是运行环境宽容:组件的外部可见效果(如设备写入、命令)可恢复,生成器是诚实
该论文针对 Node.js 生态中动态库(原生模块)加载所引入的安全风险,提出了一种基于 RWX(读-写-执行)权限分离的权限降低机制。Node.js 应用常通过原生模块调用系统级动态库,而这些库在被加载时通常拥有完整的内存权限(如同时具备
该论文针对持久化AI代理(Persistent AI Agents)的安全性提出了一种新的运行时防御框架。与传统单轮对话助手不同,持久化AI代理通过长期运行的软件系统与用户交互,其不安全内容可通过持久化状态、可复用技能和工具中介交互传播,形
本文对新兴JavaScript运行时Deno及其生态系统deno.land的安全性进行了全面研究。Deno由Rust编写,号称比Node.js更安全,具有严格权限系统(静态/运行时权限检查)和基于URL的透明依赖管理。作者首先对比Deno与
本文针对自主代理基础设施面临的关键控制平面授权问题,提出了一种名为主权保证边界(Sovereign Assurance Boundary, SAB)的证书绑定运行时准入层。随着AI代理和自主系统能够产生非确定性推理并提议对生产资源进行高风险