Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs
本文研究的是基于大语言模型（LLM）的编码助手在提示（prompt）受到微小扰动时，生成的代码是否会从安全变为脆弱。以往工作主要关注扰动对功能正确性的影响，而本文首次系统性地探讨对代码安全性的影响。作者在三种模型和五种编程语言上对提示进行词
#code-generation
共收录 26 条相关情报。
← 返回所有主题An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods
本研究针对大型语言模型（LLM）在自动代码生成中存在的安全问题，进行了全面的实证评估。尽管LLM显著提升了软件开发效率，但其生成的代码常因忽略关键安全考量（如弱加密、输入验证不当）而存在漏洞。作者选取了五种LLM和四种编程语言（Java、C
Exploiting LLM Agent Supply Chains via Payload-less Skills
该论文研究了一种针对LLM驱动的自主Agent的新型供应链攻击方法——语义合规劫持（SCH）。随着Agent通过第三方技能市场集成外部功能，攻击面扩大。现有安全审计机制依赖代码扫描识别显式payload或预定义威胁内容，但若恶意行为不含直接
Usability as a Weapon: Attacking the Safety of LLM-Based Code Generation via Usability Requirements
该论文研究了大型语言模型（LLM）在代码生成场景下，可用性需求如何被用作攻击面，从而破坏安全编码实践。作者提出了一种名为UPAttack的新型威胁，并设计了自动化框架U-SPLOIT。其核心思想是：现实中的可用性需求（如添加新特性、满足性能
PrivCode: When Code Generation Meets Differential Privacy.
该论文提出了PrivCode，这是首个专门为代码数据集设计的差分隐私（DP）合成器，旨在解决大型语言模型（LLM）在代码生成时微调私有数据集可能引发的隐私泄露问题。传统的DP方法在代码数据上面临语法依赖强和隐私-效用权衡的挑战。PrivCo
Large Language Models for Code: Security Hardening and Adversarial Testing.
该论文研究大型语言模型（LLM）在代码生成中的安全问题。随着LLM在大量代码库上训练并用于自动生成代码，它们频繁生成不安全的代码，缺乏安全意识。为此，作者从两个维度展开工作：安全加固（增强LLM生成安全代码的可靠性）和对抗测试（从对抗视角评