Refusal Evaluation in Coding LLMs and Code Agents: A Systematic Review of Thirteen Malicious-Code Prompt Corpora (2023-2025)
本文是一篇系统综述,聚焦于2023年至2025年间公开的13个用于评估大型语言模型(LLM)在恶意代码任务中拒绝能力的提示语料库。这些语料库包括AdvBench、CyberSecEval系列、RMCBench、RedCode、MCGMark
共收录 2 条相关情报。
← 返回所有主题本文是一篇系统综述,聚焦于2023年至2025年间公开的13个用于评估大型语言模型(LLM)在恶意代码任务中拒绝能力的提示语料库。这些语料库包括AdvBench、CyberSecEval系列、RMCBench、RedCode、MCGMark
该论文研究了编程代理(coding agents)在执行终端任务时遵循最小权限授权原则的能力。最小权限授权要求代理仅获得完成任务所必需的权限,避免暴露敏感表面。作者首先定义了“权限边界推断”(permission-boundary infe