Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code

大型语言模型（LLM）越来越多地用于代码生成，但可能被滥用以产生恶意代码。语法约束解码（GCD）是一种旨在通过强制语法有效性来提高LLM生成代码可靠性的技术。本文揭示了一个反直觉的风险：这种面向可靠性的技术本身可能成为攻击面。作者提出了一种

历史摘要 · 未重新核验 · arXiv cs.CR