EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents
该论文针对「工作区智能体」（Workspace Agents）的运行期安全风险，提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架（harness）结合，能够执行有状态、多步骤的任务，并访问或修
#evaluation
共收录 33 条相关情报。
← 返回所有主题SteerProbe: Learning to Bypass Safety Steering in Vision-Language Models
该论文研究视觉语言模型（VLM）中基于激活调控（activation steering）的推理期安全防御的鲁棒性边界。激活调控通过在推理阶段修改模型中间层表示、而不更新主干参数来提供防护，被视为一种轻量、可插拔的安全护栏。作者指出，这类防御
PrivacySkills: How Privacy Guidance Shapes Source Selection in LLM Agents
本文提出 PrivacySkills，一个受控评测框架，研究大语言模型智能体在信息获取路径选择上如何受隐私指引呈现方式影响。核心问题是：当多种获取路径能带来同等任务相关价值时——查询公开可得的个人信息、访问机密来源，或直接与用户交互——智能
Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection
本文聚焦 LLM Agent 安全评测的「有效性」问题。当 LLM Agent 能够调用具备特权能力的工具（文件读写、邮件发送、代码执行、外部 API 等）时，它就成为间接提示注入（IPI, Indirect Prompt Injectio
SSP-Bench: A Hybrid Data Generation Framework for Safety, Security, and Privacy Evaluation
该论文针对大语言模型（LLM）在安全（safety）、安保（security）与隐私（privacy，合称 SSP）评估中长期依赖静态基准的问题提出改进方案。作者指出，静态基准存在三类结构性缺陷：分数饱和（模型表现趋同、区分度丧失）、数据污
CASCADE Against Jailbreaks: Combination Across Stages with Controlled Attack-Defense Evaluation
该论文研究大语言模型（LLM）越狱攻击的防御问题。当前防御手段分布在推理流水线的不同阶段（例如输入改写/输入过滤、输出护栏/输出检测等），但业界仍不清楚每个阶段应部署哪类防御、以及应如何将它们组合使用。以往的实证研究由于攻击成功率定义不一致
Collective Loss of Control in LLM Agent Systems: An Epidemic Account of Mutation, Contagion, and Recovery
该论文提出用流行病学框架（accidental mutation / contagion / recovery，即意外突变、传染、恢复）来解释多智能体 LLM 系统如何从局部偏差演化为集体失控。核心论点是：单个智能体的偶发偏差充当“种子”，
PIDS-Bench: Evaluating Prompt-Injection Detectors Under Over-Defense, Obfuscation, and Distribution Shift
提示注入(prompt injection)检测器目前普遍以分布内测试集上的聚合 F1 作为主要评价指标,这种做法掩盖了模型在分布偏移下的真实行为,尤其是决策边界的良性一侧:误报会直接产生运维成本(告警疲劳、正常业务被拦截),却往往没有被单
Benchmark Scores Are Pipeline-Dependent: A Reliability Audit of Cybersecurity LLM Benchmarks
本文对网络安全领域的大语言模型（LLM）基准测试的可靠性进行了系统性审计，指出基准分数并非固定不变，而是高度依赖于评估管道的具体配置。作者将八个网络安全基准测试视为测量管道，并选取了十个模型（包括商业专有模型、开放权重模型和网络安全专用模型
ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
大型语言模型（LLM）的自动化红队攻击与蓝队防御技术正在快速发展，但现有的攻击者和防御者通常被孤立地构建和测试，导致评测分数难以反映真实对抗能力。为解决这一问题，本文提出了 ACEA（Adversarial Co-Evolution Are
Robustness-Aware Evaluation and Enhancement of Mutation-Based Fuzzing for Bug Discovery
变异模糊测试（mutation-based fuzzing）是软件安全中广泛使用的漏洞发现技术，但由于其随机性，对它的结果进行严格评估和复现存在困难。现有工作通常通过经验性测量来刻画这种随机性，但缺乏理论上的收敛性与样本复杂度保证，导致评估
Systematic Assessment of Tabular Data Synthesis.
该论文围绕表格数据合成技术展开系统评估。数据合成被视为在保护数据隐私的前提下利用数据的重要手段，近年来涌现出大量表格数据合成器（synthesizers），其中部分满足差分隐私（Differential Privacy）约束，另一些则仅基于
ClaimReceipt: Verifying Evidence Sufficiency and Coverage in Agent Evaluations
本文针对智能体（Agent）评估中的证据充分性与覆盖范围问题，提出了一套名为 ClaimReceipt 的声明相对收据规范与选择性验证器。研究背景是：在智能体评测中，存在两种不同的证据问题：一是已报告声明能否从保留证据中重新计算得出（充分性
Reveree: Diagnosing LLM Reverse-Engineering Agents
该论文提出了一种名为 Reveree 的诊断框架，用于深入评估大型语言模型（LLM）代理在逆向工程（RE）任务中的表现。当前社区通常使用 CTF（Capture-the-Flag）逆向工程挑战作为衡量标准，但仅凭是否拿到 flag（解题率）
The Safeguard Worked. Is the LLM System Safer?
本文针对大语言模型服务中维护防护机制的效果评估问题展开研究。当前业界通常以拒绝率、攻击成功率或违规率等指标来衡量防护本身的有效性，但这些指标仅反映防护在预定义测试请求集合上的表现，不能说明在实际部署环境中，面对持续适应攻击方式的对手，服务仍
Understanding Stage-Wise Utility-Risk Trade-offs in LLM Agent Memory
本文研究 LLM Agent 长期记忆机制中良性效用与记忆投毒风险之间的阶段性权衡。作者指出，现有评测通常在固定配置下孤立地衡量记忆效用或攻击风险，难以揭示不同记忆阶段（写入、管理、检索）的设计选择如何重塑效用-风险权衡。为此，他们提出了可
DPImageBench: A Unified Benchmark for Differentially Private Image Synthesis.
本文针对差分隐私（DP）图像合成领域日益凸显的评估协议不一致、甚至存在缺陷的问题，提出了一个统一基准平台 DPImageBench。研究背景是：DP 图像合成旨在生成既能保留敏感图像数据集统计特性、又能保护单张图像隐私的人工图像，但不同研究
FIDES: A Concordance Protocol for LLM-Generated Trading Strategies
该论文提出FIDES，一个用于评估LLM生成交易策略一致性的测量协议。LLM在回答交易策略请求时，通常会同时返回自然语言理由、可执行代码以及回测业绩三个产物，但少有研究验证三者是否一致。FIDES将这三个产物视为三个需要相互印证的视图，而非
aiXamine: Unified Black-Box Evaluation of Cross-Dimensional Trade-offs in LLM Safety, Security, and Privacy
本文针对当前大型语言模型（LLM）安全评测中存在的维度割裂问题展开研究。作者指出，现有评测框架通常独立评估安全性、安全性和隐私性，无法捕捉跨维度的失效模式。例如，一个模型可能在安全对齐指标上达到99.3%，却拒绝三分之一的良性查询；或者在所
"Better Be Computer or I'm Dumb": A Large-Scale Evaluation of Humans as Audio Deepfake Detectors.
该论文针对音频深度伪造检测这一日益严峻的安全问题，首次开展了大规模的人类识别能力评估研究。随着语音合成与声音克隆技术的快速发展，深度伪造音频已被用于电信诈骗、虚假信息传播等恶意场景，传统自动检测模型虽然取得一定进展，但人类作为最终决策者的听