推荐 11.5
Conf: 50%
本研究聚焦于大型语言模型(LLM)在静态分析任务中的安全漏洞。研究者发现,LLM在分析代码时可能被恶意利用,通过精心构造的代码注释或变量命名等表面特征(即“偏见”),诱导模型输出错误的分析结果。例如,攻击者可以在代码中嵌入看似无害的注释,使LLM忽略真实的安全缺陷,或误报不存在的漏洞。论文提出了一种名为“劫持静态分析”(Hijacking Static Analysis)的攻击方法,利用LLM对编码惯例和自然语言模式的依赖,在保持代码语法正确的前提下,注入误导性信息。实验在多个主流LLM(如GPT-4、CodeLlama)上进行,以代码漏洞检测任务为例,展示了攻击成功率超过80%。作者还分析了防御可能性,提出通过对抗性训练和输入净化来缓解此类威胁。该工作揭示了LLM在代码分析中面临的新型安全风险,强调了在可信执行环境之外部署LLM时需要谨慎对待模型输出的可靠性。
💡 推荐理由: LLM辅助代码审查日益普及,但本研究表明攻击者可轻易通过偏见输入逃避检测或制造误报,直接威胁软件供应链安全。安全工程师需警惕模型输出的潜在操控风险。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)