← 返回列表

大模型在代码安全审计的探索与实践

聚合站 SecWiki技术 作者 云鼎实验室 发布 2025年2月20日 18:01 入库 2026-11-18T05:05:27

1.传统代码安全审计的困局

在企业全面上云时代,确保云产品的安全性和稳定性已经成为企业关注的焦点。静态应用安全测试(SAST)作为一种重要的代码安全审计方法,被广泛应用于云产品的开发和维护过程中。通过将SAST工具嵌入DevSecOps流程,企业可构建“安全左移”防御体系,检测潜在的安全漏洞和缺陷,从而帮助开发人员在早期阶段发现并修复问题,有效降低安全风险。

在代码安全审计工具落地实践中,数据流覆盖不全是较为突出的问题。通过对漏报案例的深度复盘,腾讯云安全团队发现一个重要原因:云产品使用了开源组件和框架,而由于代码安全审计工具没有支持这些框架,未覆盖潜在的“Source”(用户可控的输入点)和“Sink”(敏感函数或漏洞触发点),导致数据流分析中断,从而引发漏报。这类漏洞如同潜伏在云产品中的“延时引信”,一旦被攻击者触发,可能引发连锁式安全危机。

图1 框架未适配导致的漏报Case

在明确问题以后,解决方法很简单粗暴:组织安全工程师对开源框架进行人工分析,阅读框架的实现代码,找出所有可能的Source和Sink点(下文简称污点)。再根据污点特征编写检测规则,集成到分析工具中,从而实现代码风险点的覆盖。

这个解决方法虽然短期内有效,但是长期来看却面临着不小的挑战:

●人工分析的效率瓶颈:需要安全工程师逐个阅读框架源代码文件,对每个函数进行研判和分析,识别可能的污点函数,耗时耗力。现阶段全量分析一个框架至少需要1个小时。

●经验依赖性强:每个工程师熟悉的开发语言不同,熟悉的技术栈不同,因此做出的识别结论可能不同,高度依赖个体的经验。而当面对多语言、多技术栈的框架时,人力投入将大幅增长。

●审计质量不稳定:由于是人工识别,难免可能遗漏一些污点;受限于个人经验,又难免误报,比如把一些并没有暴露给外部调用的函数纳入污点范围。

随着大模型赋能业务的发展,行业前沿传来令人振奋的消息-大模型在0day漏洞挖掘中展现出惊人潜力。谷歌Project Zero团队发布了漏洞挖掘智能体“Big Sleep”,在SQLite中挖掘出了0day漏洞。相比人工分析,大模型不仅有丰富的代码安全知识,还具备强大的推理能力,很适合用于代码安全审计任务。但是,当我们直接应用大模型进行一番探索之后,发现问题并没有那么简单......

2.直接应用大模型的三个挑战

直接应用大模型做代码安全审计,主要方法是把业务的源代码直接输入给大模型,让大模型识别可能存在的漏洞。部分优化方案会对代码做初步筛选,找出风险最高的代码给大模型,提高分析效率。面向业务代码安全审计的场景,在使用真实代码深入测试之后,我们发现直接应用大模型检测代码存在一些问题:

●漏洞存在≠实际可利用:在代码安全审计领域,存在漏洞风险的代码并不意味着一定存在可以被攻击者利用的漏洞。比如直接拼接SQL查询语句会导致SQL注入漏洞,但是需要有攻击者可以远程控制的输入点,才会真正被远程利用。例如,"SELECT * FROM users WHERE id = "+userInput,当攻击者能够控制userInput参数且存在有效攻击路径时,才构成真正的高危漏洞。

●上下文超过模型长度限制:为了准确找出可利用的漏洞,不仅需要检测代码风险点的上下文以及调用链路,还需要理解函数的功能和逻辑。而在真实项目中,这个上下文和链路包含了几十、几百乃至几千个语句,而一个函数调用语句又需要去定位和分析函数代码。大量的代码超出了模型8K/32K的长度限制。

●知识沉淀无法转化为检测效能:在持续的运营过程中,安全团队积累了几千个已知代码风险点,其中不乏专门针对企业自有框架的检测经验。大模型仍然会作为未知风险进行检测,实验发现外接知识库也不能很好地匹配业务代码和已知风险点。

怎么解决呢?带着上面的问题,我们陷入了深深的思考......

3.大模型赋能的破局之道

安全团队发现代码风险点是一个开放空间,各种漏洞成因不一而足,用大模型直接检测代码漏洞,颇有“以有涯随无涯”之意。当前的核心挑战是开源框架的人工分析效率问题,而开源框架中的污点是相对有限和封闭的,用大模型来检测开源框架的Source和Sink点,能起到事半功倍的效果!

基于前面的实验和思考,我们设计了下面这套大模型驱动的污点检测流程,通过三个Agent协同挖掘开源框架中的污点,赋能代码安全审计。

图2 大模型赋能污点挖掘流程

●Discover Agent

在代码文件级别上,通过2个引擎对源代码做初步的筛选,过滤无关的代码。

初筛引擎:采用通用大模型,对框架源码进行全量扫描,通过上下文识别潜在Source和Sink函数。

验证引擎:采用具备较强逻辑推理能力的增强模型,对候选函数进行验证,确保找出的函数既符合污点的特征,又有很大概率是外部可调用的函数。

●Judge Agent

在筛选出备选污点函数后,我们准备了在日常运营过程中积累的专家经验。利用专家经验对函数的各个特征进行验证,排除掉不符合条件的函数。

●Validation Agent

为了确保挖掘出来的污点是真实有效的,针对每个开源框架,我们会对几千个使用该框架的仓库进行代码安全审计,来验证每个污点是否都能输出检出结果,确保污点都有真实项目使用。

4.成果

通过应用大模型驱动的分析工具,我们把内部代码安全审计工具的检测结果数量提升了10%+,显著提高了未知风险的检出率。同时,挖掘出了4个0day漏洞,已及时通知相关开源项目并申请CVE编号,有效帮助开源社区提升了安全防护水平。

其中典型案例是Apache Traffic Control项目的CVE-2024-45387漏洞,CVSS评分达到了9.9(满分 10 分)。由于该漏洞危害性较高,在安全社区引发了广泛关注。根据ZoomEye的监测数据显示,受影响组件的潜在使用量已达29.2万以上。

图3 CVE-2024-45387得到了安全社区广泛关注

图4 ZoomEye估算的组件使用量

Apache流量控制项目(Apache Traffic Control)是一套开源的内容分发网络(CDN)实现方案。该项目于2018年6月被Apache软件基金会(ASF)宣布成为顶级项目(TLP)。

尽管该项目默认启用了GitHub官方的SAST分析工具CodeQL(每次代码提交都会自动触发安全审计),但是却并没有检测出这个漏洞。根本原因在于CodeQL的预置规则库未覆盖该漏洞的Sink点,导致出现漏报。而我们的代码安全审计工具通过大模型扩展了Sink点检测能力,从而顺利检测出了漏洞。

图5 CodeQL没有检测出漏洞

5.未来展望

大模型在代码安全审计领域展现出巨大应用潜力,我们认为这将是一个能够大幅提升检测能力的重要方向。未来,我们将积极探索利用大模型提高代码安全审计的准确率,并持续强化腾讯云的代码安全审计能力。

原文链接:https://mp.weixin.qq.com/s/_X1b8A5b5MQjsCxPRHmFvQ