这篇 arXiv 综述围绕大模型生成代码自带安全隐患这件事展开,核心原因是大模型训练数据里混杂大量有漏洞的开源代码,同时模型存在幻觉、上下文理解不足、容易照搬过时不安全 API 的问题,没法自主保证输出代码符合安全规范;整套落地流程一般分为风险识别、漏洞检测、漏洞修复、修复结果校验四个环节,先定位注入漏洞、缓冲区溢出、权限绕过这类 CWE 缺陷,再选用提示词工程、模型微调、检索增强、结合静态扫描工具的方式产出补丁,最后自动验证补丁不会引入新漏洞,整体结论是单独依靠 LLM 做代码安全并不可靠,必须搭配传统安全工具、人工复核和闭环校验,才能稳定提升 LLM 代码安全、漏洞修复的成功率。
一、LLM 生成代码常见安全风险清单
- 复刻历史漏洞:训练集里老旧、存在缺陷的代码片段被模型直接复用,比如弱哈希算法、危险系统调用
- 安全幻觉:编造不存在的安全接口、错误的权限校验逻辑,语法正常但存在可利用漏洞
- 依赖包风险:推荐废弃、有已知 CVE 的第三方库,没有识别依赖链里的安全问题
- 误报漏报:检测漏洞时出现大量假阳性,或是忽略跨文件、跨函数的数据流类复杂漏洞
- 修复退化:打补丁的时候修复原有漏洞,同时新增别的安全缺陷
二、LLM 代码漏洞检测主流技术路线
| 技术路线 | 实现方式 | 优势 | 短板 |
|---|---|---|---|
| 提示推理检测 | 直接给 LLM 传入代码 + 安全提示,让模型输出漏洞位置、CWE 类型 | 部署简单,不用重新训练,适合快速筛查 | 长代码容易丢上下文,稳定性差 |
| 微调专用检测模型 | 用 Devign、Big-Vul 漏洞数据集微调 CodeBERT、CodeLlama 等代码基座 | 检测指标更稳定,适合固定漏洞类型 | 泛化弱,新漏洞识别能力不足 |
| 结构增强检测 | 把代码转为 AST、CPG 控制流图,再送入 LLM 分析 | 捕捉数据流、控制流相关漏洞 | 图结构预处理成本高 |
| 多工具联合检测 | LLM+Semgrep、CodeQL、Flawfinder 静态扫描工具协同 | 降低漏报、假阳性,结果可交叉验证 | 流程复杂,工具之间结果对齐麻烦 |
三、LLM 漏洞修复四类主流方法
- 提示驱动迭代修复:基础安全提示、CWE 标准引导、工具反馈重提示,多次循环修改代码,是目前开发里最常用方案,上手门槛最低
- 检索增强修复(RAG):检索同类型漏洞的正确修复样例、官方安全编码规范给模型做参考,减少幻觉,补丁更规范
- 安全领域微调:使用漏洞 - 补丁配对数据集微调模型,让模型直接学习漏洞修复范式,适合企业内部固定业务代码场景
- 智能体闭环修复:LLM 调用扫描器、编译工具、符号执行工具,自动验证补丁,不通过就自动重新修复,形成检测 - 修复 - 验证循环
四、现存难点与未来研究方向
- 难点:长仓库级代码的上下文限制、复杂多文件漏洞修复效果差、补丁的功能一致性难保证、投毒污染训练数据会直接削弱安全能力
- 研究方向:面向仓库级的长上下文安全编码智能体、漏洞修复的可解释评估体系、防御数据投毒的安全对齐方案、轻量安全校验插件与编码助手的深度集成
【相关 FAQ】
问题 1:LLM 代码安全和漏洞修复方法里,提示词修复方案靠谱吗?
回答 1:提示词修复是 LLM 代码安全和漏洞修复方法里最简单易落地的方案,单独使用稳定性有限,简单漏洞修复效果不错,复杂数据流漏洞很容易修复失败或者出新漏洞,建议搭配静态扫描校验一起使用。
问题 2:LLM 做代码漏洞检测为什么容易出现假阳性?
回答 2:LLM 代码安全和漏洞修复方法本身依赖模型对代码语义的理解,模型容易把写法不规范、但不存在可利用风险的代码判定成漏洞,缺少传统安全工具的精确数据流分析,所以假阳性问题比较突出。
问题 3:提升 LLM 代码安全、漏洞修复成功率,优先选哪种方案?
回答 3:优先采用 “RAG 检索增强 + LLM 修复 + 安全工具自动验证” 的组合方案,这也是当前 LLM 代码安全和漏洞修复方法综述里认可度最高的工程化路线,兼顾成本、修复准确率和可控性。
问题 4:LLM 生成代码最容易出现哪一类安全漏洞?
回答 4:在 LLM 代码安全和漏洞修复方法的相关统计里,注入类漏洞、不安全依赖、错误输入校验、缓冲区溢出是模型高频产出的漏洞类型。
【参考资料】
[2026-08-24](ESBMC-AI:结合形式化验证与大模型的代码漏洞修复研究)arXiv
[2026-03-01](Detect–Repair–Verify:面向 LLM 生成代码安全的多语言实证研究)arXiv
[2025-12-01](基于 LLM 的软件修复综述:分类、范式与应用)arXiv
[2024-12-01](从漏洞到修复:LLM 在代码安全领域系统性综述)arXiv
【免责声明】
本文内容基于公开 arXiv 综述文献整理,仅用于技术科普、学术参考,不构成生产环境的安全落地标准;LLM 代码安全与漏洞修复方法本身存在不确定性,线上业务代码安全整改必须经过专业安全人员复核、多轮安全扫描和渗透测试验证。
