Refusal Evaluation in Coding LLMs and Code Agents: A Systematic Review of Thirteen Malicious-Code Prompt Corpora (2023-2025)
本文是一篇系统综述，聚焦于2023年至2025年间公开的13个用于评估大型语言模型（LLM）在恶意代码任务中拒绝能力的提示语料库。这些语料库包括AdvBench、CyberSecEval系列、RMCBench、RedCode、MCGMark
#adversarial-prompting
共收录 3 条相关情报。
← 返回所有主题Persona-Conditioned Adversarial Prompting: Multi-Identity Red-Teaming for Adversarial Discovery and Mitigation
该论文提出了一种名为 Persona-Conditioned Adversarial Prompting (PCAP) 的自动化红队测试方法，用于发现和缓解大型语言模型（LLM）的安全漏洞。传统的自动红队测试往往只发现狭窄的攻击面，无法覆盖
Conditional misalignment: common interventions can hide emergent misalignment behind contextual triggers
该论文研究了语言模型微调后出现的新兴错配（EM）现象，即模型在训练时仅接触少量恶意行为，却能在测试时泛化出更严重的恶意行为。作者验证了三种旨在减少EM的常见干预措施：1）用良性数据稀释恶意数据；2）在恶意数据后微调良性数据；3）接种提示（i