← 返回列表

软件模糊测试技术研讨

聚合站 SecWiki技术 作者 CodeWisdom 发布 2023年8月20日 08:00 入库 2026-11-18T09:45:54

CodeWisdom

“智能化软件开发沙龙是由CodeWisdom团队组织的围绕智能化软件开发、数据驱动的软件开发质量与效能分析、云原生与智能化运维等相关话题开展的线上沙龙,通过微信群访谈交流等线上交流方式将学术界与工业界专家学者汇聚起来,共同分享前沿研究进展与业界实践,共同探讨未来技术发展方向。”

软件模糊测试技术

智能化软件开发微访谈·第二十六期

背景介绍

当前,软件模糊测试技术已经被广泛应用于多个领域,在软件系统的安全性和可靠性测试方面发挥了重要的作用。与此同时,一些行业巨头也投入了大量的资源研发自己的模糊测试工具,例如谷歌的AFL、微软的Restler Fuzzer等。随着人工智能技术的发展,深度学习模型等智能化技术在软件系统中得到了越来越多的应用,而近期大语言模型的迅猛发展也对软件系统的实现方式带来了很大影响,这些都为软件模糊测试带来了新的机遇和挑战。软件模糊测试的基本思想是什么?关键技术有哪些?当前主要应用于哪些领域并取得了什么样的效果?近几年的主要研究焦点在哪些方面?相关技术在企业实践中的应用状况和接受度如何?在软件系统应用日益广泛、复杂度日益增长、同时智能化技术应用不断加深的背景下,相关技术发展还面临哪些挑战?未来的发展方向又在哪里?

围绕这些问题,我们邀请了来自学术界与工业界的专家进行交流,总结学术界研究进展和工业界应用状况,同时探讨相关技术问题以及未来的发展方向。

主持人

彭鑫

复旦大学教授

嘉宾

刘杨

新加坡南洋理工大学(NTU)计算机学院教授,NTU网络安全实验室主任,HP-NTU实验室主任,新加坡国家卓越卫星中心副主任,并于2019年荣获大学领袖论坛讲席教授

张令明

美国伊利诺伊大学香槟分校(UIUC)计算机系副教授

姜宇

清华大学软件学院副教授

张超

清华大学网络研究院副院长,长聘副教授/博导,华为冠名教授,蓝莲花战队教练,CCF杰出会员

张煜群

南方科技大学计算机科学与工程系助理教授,博士生导师

董震

海德堡大学博士,复旦大学计算机学院青年副研究员,中国计算机学会(CCF)软件工程专业委员会执行委员

薛吟兴

中国科技大学计算机学院特任研究员

房春荣

南京大学软件学院副研究员

狄鹏

蚂蚁集团资深技术专家,中科院客座研究员,新南威尔士大学兼职高级讲师

宋凤仙

华为2012实验室主任工程师

访谈主题

软件模糊测试技术

01

您对软件模糊测试技术是如何理解的?软件测试领域有很多自动化测试技术,包括符合执行、随机测试等,模糊测试在其中处于什么样的地位?与其他自动化测试技术相比,模糊测试具有什么明显的优势与劣势?

02

当前,软件工程和系统安全等相关领域中与模糊测试相关的研究都比较活跃,相关研究论文也比较多。能否总结下当前针对模糊测试的研究点主要有哪些?主要的研究思路是什么?与此同时,模糊测试技术在企业界的应用现状如何?

03

模糊测试当前主要聚集于相对简单的软件错误检测,例如越界、崩溃等。由于缺乏相应的测试预言,模糊测试技术难于检测业务逻辑相关的错误,您如何看待这一问题?同时,当前的一些研究工作是如何突破这个问题的?

04

模糊测试通常需要设定一个测试时间(time budget)作为终止测试的条件,时间的设定主要依靠经验(例如24小时)而没有统一的标准。您对于这个问题怎么看?未来是否可能有更好的方法来确定模糊测试的充分程度?

05

最近的一些研究显示大模型也展示出了很好的软件测试能力。您认为大模型会对模糊测试带来什么样的影响?同时,如何利用大模型来提升模糊测试的能力?在这些问题上有哪些好的切入点?

Q&A记录

Question 1

主持人:您对软件模糊测试技术是如何理解的?软件测试领域有很多自动化测试技术,包括符合执行、随机测试等,模糊测试在其中处于什么样的地位?与其他自动化测试技术相比,模糊测试具有什么明显的优势与劣势?

刘杨:

我一直觉得fuzzing和测试在算法层面是一个事情。Fuzzing独特的点在于它是一个高效的测试执行带来更好的代码覆盖率。同时不考虑太多的测试用力生成的事情,让测试这个事情更容易落地。是一种暴力美学的意思。但是一个难点是想要把fuzzing用好,需要懂被测代码,可以有效的引导fuzzer走到想要到达的地方,和有漏洞的第六感,这个还是一个非常有挑战的技术活。

符号执行是更系统化方案,但是落地比较难在于其scalability (path explosion) 的问题上面。不过今天听了一个talk做了一个backward 符号执行,效果不错。如果再能加上好的loop invariant的生成,在有些场景上是可以落地的。最近我们发布了一款产品MetaScan来做solidity的源代码层面(不是在IR上面)的符号执行,效果就很不错。

其他的自动化方法同样还是相对来时测试用例生成的投入和覆盖率的效果不够好,不过最近LLM的加持上面已经有了很大的进步了。感觉软件测试这个题目又迎来新的机会。

张令明:

模糊测试是一种非常实用的软件测试技术,聚焦于向目标程序输入大量的有效或者无效数据来观察程序是否有异常行为并发现潜在的bug。通常可以大致分为生成式(从零开始生成测试用例)和变异式(变异种子测试用例来生成更多测试)的技术。模糊测试的概念自1988年由威斯康辛的Barton Miller老师提出以来,已经成为软件测试的一个重要分支。近年来各类软件系统几乎渗透到社会的方方面面,模糊测试的重要性愈发明显、在学术界和工业界受到越来越多的关注。与其它自动化测试技术相比,模糊测试有着明显优势:

-易用性:模糊测试不需要对程序有很强的白盒理解,测试人员只需要了解被测程序的接口和输入格式就可以进行,因而非常简单易用、并可以实现高速测试。

-适用性:模糊测试基本思想可以适用于不同领域和规模的软件系统,比如传统编译器、数据库系统、操作系统、浏览器、深度学习系统、甚至是量子计算系统等等。

-兼容性:模糊测试可以兼容其他的测试分析技术,比如和测试覆盖结合的灰盒模糊测试以及和符号执行结合的hybrid fuzzer等。

当然模糊测试也有不足、和需要改进的地方:

-传统的模糊测试缺乏有效的指引容易产生过多的无效测试。因而覆盖的系统代码比例还比较有限、并很难应用到测试用例约束繁多的复杂系统上(例如深度学习库)。

-总体来说虽然越来越多的通用(例如各种sanitizer)以及特定领域的测试预言被提出,模糊测试的测试预言还缺乏对细粒度程序语义的把控、并有很多的提升空间。

-生成式模糊测试技术常常需要极大的工程量保证生成的测试用例的有效性、并很难覆盖到大部分的输入空间。

-变异式的模糊测试技术过度依赖于种子输入的质量和变异的有效性。通用的技术(例如AFL)很难有效的利用特定领域的输入结构,而针对特定领域的技术需要通常需要高昂的人工开销来设计变异规则和保证变异有效性。

姜宇:

模糊测试是一种通用的测试手段,自动化生成测试输入,监测程序的执行,发现程序异常。和其他测试技术相比,明显的优势是不会有路径或状态空间爆炸的问题,工业应用中挖掘的程序缺陷多,劣势是需要针对不同的系统进行适配,测试驱动撰写难度较大,程序覆盖难以保证。

张超:

模糊测试是当前最热门的漏洞挖掘技术,在发现未知漏洞方面取得的效果也远超此前的自动化测试技术。相比于符号执行技术,模糊测试技术缺乏推理求解的能力,但是测试速度快几个数量级,可扩展性更强,综合效果更好。相比于随机测试,现代模糊测试技术通常结合遗传算法及各种优化算法,在测试空间探索时有更强的目标导向,避免盲目探索,可以更快地发现潜在问题。

总的来说,模糊测试技术有三个鲜明的特点:(1)快速高效测试:“大力出奇迹”、“唯快不破”,模糊测试能够充分利用计算资源实现对测试空间的探索;(2)目标引导的测试:模糊测试技术可以采集测试过程中的各种反馈信号,运用不同优化算法对测试空间的探索方向进行引导,实现有针对性的测试;(3)模块化可扩展:现代模糊测试技术可以有机地融合其他技术,例如污点分析、漏洞检测(Sanitizer)等,实现高质量的测试。

但是,模糊测试技术也面临一些根本性的挑战,包括如何与目标软件高效地衔接起来进行测试,如何高效采集目标软件中的反馈信号,如何进一步缩小测试空间等。

张煜群:

我觉得可以从两个角度理解模糊测试。首先,模糊测试会根据一定策略,基于已有的输入样本,从预定义的输入空间随机采样来生成新的测试样本。其次,由于模糊测试通过随机采样生成样本,其依赖于先验的手段来判断测试输入和输出的对应关系是否正确。

模糊测试的核⼼思想⾮常简单,就是向被测试的软件输⼊⼤量的随机数据,并观察其是否会出现异常⾏为。其优势主要有:1. 低成本:与其他需要详细知识的测试⽅法相⽐,模糊测试不 需要对应⽤程序的内部逻辑和结构有深⼊的了解。2. ⾃动化:⼀旦设置完成,模糊测试 ⼯具可以⾃动运⾏,⽣成和发送随机输⼊,从⽽节省了⼈⼒。3. 适⽤性⼴:可以针对各种软件和协议进⾏模糊测试,包括但不限于:web应⽤、操作系统、⽹络协议等。其劣势主要有:1. 不完全的覆盖范围:尽管模糊测试可以达到⼴泛的覆盖范围,但它仍然可能错过某些特定的、需要精确输⼊或条件的缺陷(主要的研究问题)。2.解释性:由模糊测试⼯具产⽣的报告可能难以理解,尤其是对于不熟悉模糊测试或⽬标应⽤的⼈员。这可能导致⼀些实际的问题被忽略或错误地被低估其严重性。3. 深层逻辑错误的遗漏:模糊测试主要侧重于找到通过异常输⼊导致的程序崩溃或⾏为异常,但它可能不会发现那些只在特定逻辑路径上出现的深层错误。

相⽐传统的程序分析技术,例如符号执⾏,模糊测试思想更加简单,对于待测程序的侵⼊ 性(代码插桩)也更⼩,相应地带来的程序执⾏开销也⼩得多。但值得注意的是,模糊测 试是⼀个持续发展的领域,包括了的学术界和⼯业界,常常也会与其他技术和⽅法结合, 如代码覆盖率、符号执⾏、静态分析等,以提⾼效率。

董震:

我的理解是:

思想——模糊测试一种自动化的测试技术,其思想是通过变化给定输入(比如bit反转等)来生成更多输入,并运行生成的输入来发现系统中的崩溃。

地位——较于其他技术,模糊测试更加实用,受到更多关注,发展迅猛,形成了黑盒模糊测试、灰盒模糊测试、白盒模糊测试的体系,俨然成为了自动化测试技术的“门面”。

优劣——主要优势是高自动化与拓展性,几条命令即可完成模糊测试的搭建,非常容易上手,并且很容易拓展到大规模、异构化的现实中的应用系统。除此之外,可以利用引导算法来提高测试效率等。主要缺点是目前仍然集中在简单的缺陷的检测,在复杂的逻辑检测上仍然面临困难。

观点讨论

@彭鑫:@董震“运行生成的输入来发现系统中的崩溃” 除了崩溃,模糊测试还能发现其他类型的软件问题吗?

@董震:除了崩溃,还有内存安全相关的缺陷,比如buffer overflow,指针越界等。

@彭鑫:@董震除了崩溃之外的其他软件问题的预期测试结果一般如何定义呢?

@董震:涉及到预期结果的测试,目前还是主要依赖测试人员的测试用例吧。

薛吟兴:

模糊测试其实是上世纪80年代末提出的,所以我读博时最初接触模糊测试这种技术的时候,没有太大的那种惊奇感。我最初觉得这是个老的技术方法了。直到大概2015年的样子,我们才开始认真学习和研究AFL,当时我主要跟NTU刘老师的另一个博后Wei Lei在看这个东西。因为最早在学术圈用AFL之前,安全圈里面有人在使用AFL找了很多零天漏洞了。同一时间,我当年在NUS的师弟Marcel Böhme也开始研究这个课题。我个人感觉是AFL让模糊测试老树发新芽了。个人理解,在自动化测试领域,模糊测试本质也是一种随机测试,但是比较高效,可以应用到大型软件上。模糊测试的优点是高效,高可伸缩性(scalable),同时缺点也很明显,就像机关枪一样,容易扫射,但是可能不容易精确去找某个特定分支里面的漏洞,因为缺少白盒分析能力(我个人认为结合符号执行或污点分析后的工具,不再是单纯的模糊测试)。

房春荣:

非常赞同各位老师的观点。模糊测试技术广泛应用在软件测试和漏洞挖掘任务中,其核心框架(如,种子调度器、输入生成器、执行器和输出分析器等)固定且易于拓展和部署。从概念上来看,模糊测试属于随机测试的一种,是一种带反馈调节的随机测试技术。相比于传统的随机测试,模糊测试技术框架成熟,测试组件定义清晰,反馈调节大幅提升测试效率。与符号执行相比,模糊测试将符号执行与约束求解获得用例所需的大量时间置换为大量随机测试用例的执行时间,追求以量取胜,从而有效提升测试效率。与其他自动化测试技术相比,模糊测试的显著优势在于它的拓展性,能够简单适配不同种类的待测软件,工业应用比较广泛;缺点则在于其测试范围受限于测试驱动(包含若干待测接口的测试执行的入口),难以进行特定的功能性测试,(特别是灰盒和黑盒模糊测试)很难检测到软件深层的缺陷,同时,其测试缺陷发现类型往往比较单一(例如,程序崩溃)。

狄鹏:

刚刚各位对模糊测试有很多介绍了。Fuzzing是当今软件质量和安全中,发挥着重要的作用。相对与符号执行等技术,传统模糊测试基于动态技术,对灵活度、效率、成本等方面有着很多优点。结合静态分析,Fuzzing技术逐渐向白盒化转型,在完备性等方面都有大幅的技术提升。

观点讨论

@董震:@狄鹏确实目前fuzzing的白盒测试也很多。

@狄鹏:是的,刚刚其他老师也提到了,fuzzing黑盒、灰盒、白盒的技术方向,的确都是使用不同的场景。

宋凤仙:

模糊测试是一种动态测试技术,不存在静态分析技术中存在的大量误报问题,模糊测试自动化程度高,无须像逆向工程一样需要大量的人工参与,也不存在像符号执行技术工程化应用场景受限的问题,目前模糊测试技术已经从最初的随机测试,逐步发展成了一套提升安全测试效率,提升测试用例命中率的方法,因此,模糊测试技术是一种有效且代价低的测试方法,许多公司和组织用其来提高软件质量。我认为模糊测试目前主要的劣势,还是测试周期太长,尤其是复杂协议健壮性测试,可能一种协议全场景覆盖可能需要持续跑2周以上。

观点讨论

@狄鹏:两周的覆盖,是针对单一程序,还是云上的微服务程序?

@宋凤仙:@狄鹏一般针对一种协议健壮性测试场景。

@董震:@宋凤仙是什么类型的协议?网络通讯协议吗?

@张煜群:@宋凤仙这一块了解不多,听上去像是把模糊测试作为压力测试的手段。

@宋凤仙:@张煜群不是压力测试,就是模糊测试。

@张令明:@狄鹏这个我也很好奇,按理说并发可以很好地解决这个问题?大公司资源应该比较充足?

@狄鹏:@张令明资源是一个方面吧,其实还有很多其他限制因素的,比如敏捷开发的模式要求,等等。

@彭鑫:模糊测试的原则与具体的软件和测试类型结合之后还有很多变化。

@李戈:如果不能利用业务信息或者程序结构的信息,依赖状态一多,测试空间不是非常大么?

@张超:@李戈是的,测试空间巨大是复杂软件测试效果差的重要原因。

@狄鹏:@李戈 是的,所以绝大多数的技术手段都是在做空间裁剪。

@宋凤仙:协议状态迁移复杂,有的电信协议场景需要多个网元设备才能完成测试环境搭接,并行化难度和工程化成本都很高。

@董震:@宋凤仙多元网络设备确实存在一些效率问题。

@姜宇:我们很多协议模糊测试的时候,发现代码覆盖率都不到10%。

@董震:10%确实好低,其他软件一半覆盖率在30%以上吧。

@彭鑫:@姜宇模糊测试会把代码覆盖率作为一个主要的追求目标吗?还是采用实用主义策略,能发现缺陷就好?

@姜宇:@彭鑫感觉都要看,大家一般会把这两个作为评测指标。

Question 2

主持人:当前,软件工程和系统安全等相关领域中与模糊测试相关的研究都比较活跃,相关研究论文也比较多。能否总结下当前针对模糊测试的研究点主要有哪些?主要的研究思路是什么?与此同时,模糊测试技术在企业界的应用现状如何?

刘杨:

这些年有很多模糊测试相关的研究,主要的研究点有:

1)改进通用型灰盒模糊测试算法的研究,比如设计输入语法感知的变异策略,改进遗传算法,提出更有效的测试调度方式,研究使用更有效的反馈等;

2)针对特定测试程序设计模糊测试器,这主要是结合领域知识去做特定的优化,比如协议类程序,就可以结合协议状态机的只是去做专门的测试算法;

3)从概率论和数理统计的角度去做模糊测试的理论建模分析;

在企业界,近些年模糊测试应用逐渐广泛起来。很多大厂的测试团队都投入了大量精力去做一套模糊测试平台来提升自家的产品质量。值得一提的是谷歌维护了一个叫ossfuzz的平台,专门去对所有开源重要软件进行模糊测试,这个平台目前七年多了,有700多个贡献者,找到了上万个漏洞。企业落地我感觉处于相对早起,还是需要很专业的人员来跑fuzzer。但是这个方向我是非常看好的。

张令明:

这几年模糊测试越来越有趣,有很多很有意思的研究方向:

-对通用模糊测试工具的改进。例如对AFL和libFuzzer的种子选择、变异策略、以及回馈信息等的探索和优化。比如这次访谈中的很多老师在这个领域都有一些很有意义的探索。

-对测试预言的探索。如何判断一个生成测试用例执行结果的对错对揭错来说至关重要。因此研究人员也聚焦于如何构造巧妙有效的测试预言(比如利用差分测试、蜕变测试等方法)。

-对不同领域软件系统应用的探索。比如对编译器、数据库、浏览器、约束求解器,以及最近的深度学习系统和量子计算系统等等。参加访谈的各位老师还有国内许多其他老师都有很多很有意思的工作来研究模糊测试在不同领域软件系统上的应用。

-对如何有效利用历史bug信息的探索。揭示历史bug的测试用例经常含有非常有价值的数值、模板、或者成分。如果利用这部分历史信息也是历年来的一个研究热点。

-将机器学习特别是代码大模型引入到模糊测试,比如我们小组的TitanFuzz和FuzzGPT工作发现AI大模型可以直接模拟传统生成式和变异式的模糊测试,并可以轻松实现跨领域的模糊测试。我最近注意到刘洋老师也有一个非常有意思的工作在用大模型做fuzz driver生成、彭鑫老师组里的ChatTester工作在用大模型做单元测试的生成。我近期和几家业界公司的交流也发现他们都非常有兴趣将大模型引入到模糊测试乃至整个测试流程中。

姜宇:

个人感觉当前主要的研究点集中在系统软件模糊测试适配,测试驱动生成,变异算法引导,sanitizer优化设计等方面。

适配的主要思路是根据输入格式进行输入生成和断言设计,比如根据数据库的文法进行SQL语句生成或变异,根据语义信息进行断言设计,比如数据库中的语句执行条件的等价划分。

驱动生成的主要思路是根据接口信息,单元用例等进行调用序列的提取和驱动转化。

变异算法引导的主要思路是根据不同的引导信息,比如覆盖率,比如敏感位置等,进行用例选择的引导。

Sanitizer优化设计主要是利用程序分析技术,或者硬件辅助技术,缩减桩点,或者进行多版本的切换。

模糊测试目前在工业界应用比较广泛,Google culsterFuzz, Microsoft oneFuzz,效果都挺好的。

张超:

学术界近10年在模糊测试方面取得了突出的进展。早些年模糊测试研究点主要关注于如何优化测试过程中的关键模块,例如种子选择、能量分配、种子变异等,从深度上改进模糊测试。这类方法的通常做法是:采用程序分析技术采集特定的信息,结合人工设计的启发式规则进行优化。

近几年我们看到的几个明显的研究热点是:(1)从广度上改进模糊测试,更高效地支持特定软件目标。不同类型的目标软件在测试过程中面临特殊的局限性,例如macOS系统的封闭性等,需要专门的解决方案;(2)融合其他技术辅助模糊测试,例如融合符号执行技术进行混合测试,融合静态分析进行定向模糊测试,以及融合人工智能技术进行智能化的测试空间探索;(3)设计新的反馈信号,在提高代码覆盖率之外,通过新的反馈信号引导测试方向,突破模糊测试的瓶颈。

与此同时,工业界也在大规模应用模糊测试技术。一方面,Google和微软这样的头部企业,搭建了大型的基于模糊测试的漏洞挖掘平台;另一方面,基于Fuzzing技术的创业公司近几年纷纷设立,在DevSecOps赛道激烈竞争。工业界目前还需要进一步解决自动化适配不同类型目标软件、大规模高效经济的测试框架等问题。

张煜群:

模糊测试的技术路线非常丰富,根据自己理解我列举几个研究点。1. 指导性模糊测试:与传统的完全随机输⼊的模糊测试不同,指导性模糊测试使⽤程序的执⾏反馈来⽣成更可能引发错误的输⼊。2.基于模型的模糊测试:这种⽅法⾸先从系统中提取或构建模型,然后基于这个模型进⾏测试。这可以确保测试更加有针对性,并涵盖更多的执⾏路径。3. 语义感知模糊测试:这种⽅法利⽤程序的语义信息来⽣成测试⽤例,从⽽更有效地探索程序的状态空间。4.混合模糊测试:结合静态分析(符号执⾏)和动态分析来⽣成测试输⼊,旨在结合两者的优点以提⾼模糊测试的效果。5.针对特定领域的模糊测试:例如,针对嵌⼊式系统、汽⻋电⼦或⼯业控制系统的模糊测试。这些系统的特性可能与传统的计算机系统不同,因此需要特定的模糊测试技术和⼯具。

模糊测试在企业界应用比较广泛,体现在以下几个方面。1.软件开发安全。许多⼤型软件开发公司,如Google和Microsoft,都在他们的开发流程中整合了模糊测试,以确保软件的质量和安全性。2.硬件和嵌⼊式系统:随着物联⽹设备的兴起,模糊测试也开始应⽤于硬件和嵌⼊式系统的开发中。3.持续集成和⾃动化测试:模糊测试被集成到⾃动化测试流程(DevSecOps)中,以持续检测新引⼊的代码或变更中可能存在的问题。4.持续集成和⾃动化测试:模糊测试被集成到⾃动化测试流程(DevSecOps)中,以持续检测新引⼊的代码或变更中可能存在的问题。5. 开源和商业⼯具:存在许多开源和商业的模糊测试⼯具,帮助企业更容易地进⾏模糊测试。

观点讨论

@刘杨:这个写的好!Model Driven fuzzing 非常好的思路。

@薛吟兴:DevSecOps 的确是新的,把CI/CD与fuzzing结合。

董震:

围绕提升覆盖率的目标,展开很多研究,比如:

——突破“拦路虎”,生成到达多个if条件控制的代码,利用程序分析技术或bias搜索算法获得满足条件的输入;

——推断输入格式,有些输入格式复杂,在不知道格式的情况下难于生成有效输入(比如PDF文件作为输入),利用领域知识或动态分析推断格式;

——测试引导算法,引导生成能够到达未到达的代码区,利用执行反馈执行bias搜索算法的思路;

——提升运行效率,测试中会生成大量执行相同路径的输入,减少这些输入的执行提升效率,利用动态分析终止这类输入的执行或推断出此类输入并过滤掉;

——拓展错误类型,目前主要检测简单类型的错误比如系统崩溃,难于检测业务逻辑相关的错误,提取相关spec生成自动测试预言。

薛吟兴:

模糊测试可以研究点的应该非常多,包括插装,种子选取,调度,种子生成(本质是变异算子),测试驱动程序生成等。我个人感觉2020年后要做通用的模糊测试器应该是比较卷的事情。2020年后,我做模糊测试的工作其实并不太多,主要是在智能合约上做点fuzzing, 或者针对多线程程序做过fuzzing。换句话说,我们的思路是fuzzing在应用场景上的创新,或者是把fuzzing跟其他技术结合起来,比如machine learning guided fuzzing这类的课题。最后,谈到企业界的应用现状,我感觉fuzzing还是这些年一直在发扬光大。国内的一些做软件安全的公司,一般都有SCA,SAST. DAST这几类产品,其中DAST就是以模糊测试为主。最后插一句,在汽车安全那边,针对二进制和通讯协议的模糊测试也正成为市场的一个热点产品。

房春荣:

目前针对模糊测试的研究非常多,我们关注到的主要有以下几个方向:第一个方向是进行模糊测试的核心框架优化,比如基于测试优化理论优化种子选择器、使用强化学习优化输入生成器、基于程序分析优化执行器、基于测试预言优化插装器等;第二个方向与模糊测试的自动化有关,优化模糊测试中难以自动化的环节,比如模糊驱动的生成,模糊测试对不同类型(如内核)、不同语言(如Rust)编写的待测软件的适配等;第三个也是最近比较火的一个方向是在大量的新型软件领域开展模糊测试,例如,AI模型,AI框架,IoT设备,甚至是量子软件测试等,在这些新的场景里可以通过定义新的测试生成方法,反馈调节策略等来实现模糊测试。模糊测试因为其易用性和高效性,受到了工业界的广泛关注,例如:Google开放了OSS-Fuzz、FuzzBench、Fudgen等多个与fuzzing相关的项目,国内大厂也投入了大量资源进行模糊测试研究与应用,此外,还有专门做模糊测试的初创公司,比如上海安般。

狄鹏:

Fuzzing一直是技术研究的热点,前面各位老师介绍了很多。我聊一下Fuzzing技术在蚂蚁的应用情况。互联网公司很多都是微服务的架构方式,Fuzzing技术应用从单一程序,转换成整个链路应用测试的问题,这就为Fuzz引入了很多新的问题。

第一、微服务架构本身复杂,为Fuzzing应用带来的难度。例如,如何对上千应用组成的链路上选取种子及进行有效变异,如何在异步环境下增强覆盖率等。

第二、在微服务的应用环境中,很难一比一的复现线上环境流量,很多都是在生产环境中执行Fuzz,也就对Fuzzing的高效,可靠实现有很强的要求,例如、如何高效的采样观察,如何对污染流量进行隔离等。

第三,微服务环境,发现问题,却很难定位复现。所以实际应用时,还需要辅以很多应用条件,如 故障复现定位,流量mock等。

总之,微服务环境下的Fuzzing应用是一个复杂的系统工程,还有很多要解决的技术点。

观点讨论

@彭鑫:@狄鹏确实,微服务系统的模糊测试要考虑的复杂系统问题更突出,包括部署情况、环境配置等。那问一下,针对复杂微服务系统的模糊测试与混沌工程是什么关系?

@狄鹏:@彭鑫在蚂蚁,Fuzzing作为一个常态技术,应用在很多方向,包括安全、风险、质量、性能bug等。 混沌工程,在蚂蚁更多是为稳定性服务的。在实际过程,我们的确使用了Fuzzing技术作为 我们Chaos平台的一个组件,来对很多故障进行fuzz演练。并且有针对性的做了大量技术改造。

@刘杨:@狄鹏好奇这些fuzzing是一般的程序员在跑,还是安全团队在跑?

@狄鹏:@刘杨贯穿整个devsecops流程,但是针对不同场景的fuzz引擎也有不同。

@董震:这些都是关键问题呢,前面一直感兴趣做这个。

@张煜群:很好奇现在业界针对这几个挑战的解决方案。

@董震:Fuzzing也面临难复现的问题,看来微服务系统确实很独特。

宋凤仙:

我认为学术界模糊测试技术研究集中在以下三大个方向上:

  1. 优化模糊测试子任务流程,如(1)预处理:优化动静态插桩/初始用例;(2)调度:调度变异操作和测试用例的优先级;(3)测试用例生成/变异:设计固有/推断的变异算子;(4)配置更新:根据执行结果更新测试用例集和变异方案.

2.将模糊测试迁移到更多的业务测试场景中,如:协议,IOT设备,内核,云API,数据库,智能汽车,AI环境等。

  1. AI技术与模糊测试相结合,如学习输入模型 提高筛选种子效率,学习被测程序结构等。

业界标杆企业如:微软,google,Cisco,爱立信,Intel,华为 都非常重视模糊测试,在产品研发过程中大量使用。信通院今年发布了模糊测试平台技术规范要求标准,目前国内不少企业也逐步开始重视模糊测试技术工程化应用了,但是形成规模应用可能还需要时间。

Question 3

主持人:模糊测试当前主要聚集于相对简单的软件错误检测,例如越界、崩溃等。由于缺乏相应的测试预言,模糊测试技术难于检测业务逻辑相关的错误,您如何看待这一问题?同时,当前的一些研究工作是如何突破这个问题的?

刘杨:

这个确实是一个重要的方向。oracle的自动化生成在软件测试里面就是一个老大难的问题。Fuzzing里面也一样逃不掉。在模糊测试中,合适的使用预言其实能显著提升找到漏洞的类别和数量。但是预言的难点在于它不仅是语义相关的,而且往往是业务逻辑特定的,很难有一种通用的方法去自动生成这些预言。这个是测试中最难的问题之一。

相关研究主要分两类,一类是人工辅助,一类是自动生成。

1)人工辅助的研究,通过结合专家知识,让开发或者测试员人工标注来辅助生成预言。

2)对于自动生成,主要都是生成特定类型的预言。比如有的利用差分测试找一些特定的逻辑漏洞,也有通过文档/spec等去做自动生成,也有结合了程序验证里的一些方法,学习出linear temporal property这种特定程序属性的。

目前也有研究试图分析用大模型来作为一种通用的方法去生成预言的,则是一个我比较看好的方向。

观点讨论

@彭鑫:@刘杨开发或者测试员人工标注来辅助生成预言:这个标注是在什么级别上坐的呢?因为自动生成的模糊测试用例数量巨大,因此应该不会在实例级别上人工标注。

@刘杨:@彭鑫标注oracle。

@黄松:抛开领域知识和业务逻辑,谈oracle,基本得不偿失,标注就更加不现实。

@狄鹏:@黄松有一定道理。

张令明:

测试语言是软件测试最难得问题也是最重要的问题之一。再强的测试生成如果没有相应测试预言的强力支撑也只能找到明显的软件问题(比如越界、崩溃等等)。测试预言生成可以通过动态或静态的技术进行自动生成。但目前来看比较实际也比较常见的做法还是根据一些基本的测试思想(例如差分测试、蜕变测试等)和经验来人工构造通用(例如各种sanitizer)或者特定领域的测试预言。当然,在不远的将来大模型或许可以在特定领域为我们自动生成可靠的测试预言。

姜宇:

测试预言应该是测试的最核心的问题,判断什么场景下什么输出表示错误,也是我一直很苦恼的问题。学术界也有一些办法在尝试解决这个问题,比如蜕变测试的方法,差分测试的方法;还有就是结合人为的定义一些领域相关的预言,比如区块链中的共识特征,或者分布式中的一致性特征和超时特征等。

张超:

我们团队一直在做漏洞相关研究,对于漏洞检测Oracle偏悲观。

模糊测试技术自身确实不能检测逻辑漏洞等,但这个不是模糊测试独有的局限。其他的程序分析和漏洞挖掘技术面临同样的困境。这个问题是一个独立的研究方向,即漏洞判定问题。它的本质是,对于一些复杂的或者是新型的漏洞,我们缺乏对它们的深入理解,缺少好的漏洞建模。只要能够对一个漏洞类型进行合适的建模,我们可以运用形式化验证、静态分析、模糊测试等技术进行检测。目前对于一些逻辑漏洞,我们可以采用差分测试的方法进行检测,即实现同样逻辑的两个软件,如果对于同样输入产生的输出不同,那么可以推测其他一个软件存在逻辑问题。

观点讨论

@董震:@张超张老师,有漏洞建模方面的工作推荐吗?

@张超:@董震没有看到特别好的工作,有一些在做漏洞知识图谱构建的工作,但是我个人觉得无法回答新型漏洞的问题。比如逻辑漏洞,这就是一个很宽泛的概念,没有准确定义和边界。延伸开来看,人类可能很难对漏洞进行完美建模,法律条文这么严谨,仍然存在漏洞。目前看来,我们只能不断加深对已知漏洞案例的认识,结合业务场景,去总结归纳其漏洞模型,慢慢解决已知漏洞建模吧。

@狄鹏:非常赞同张老师的观点,的确是难题。

@董震:之前做过一个将网络通讯协议中规范转化测试oracle的工作,仍然面临一些难题,尤其是将规范中的行为与程序代码的关联。

张煜群:

传统的模糊测试技术主要聚焦于检测相对简单的软件错误,如缓冲区溢出、崩溃等。这些错误通常是由于程序处理不当输⼊数据时引起的,因此模糊测试通过注⼊⼤量随机、异常或者边界情况的数据来寻找潜在的问题点。然⽽,这种⽅法在发现涉及复杂业务逻辑的错误时可能存在挑战,因为业务逻辑错误通常需要更深⼊的理解和上下⽂(即引⼊更多的专家知识)。

业务逻辑错误可能涉及到程序的功能正确性、交互流程以及数据处理等⽅⾯。由于这些错 误通常需要特定的领域知识,传统的模糊测试技术难以有效地捕捉和检测这些问题。但 是,研究者们正在努⼒寻找⽅法来克服这个问题,以便更好地应对业务逻辑错误的检测。

⼀些研究⼯作在突破业务逻辑错误检测⽅⾯已经取得了⼀些进展,例如:1. 符号执⾏与动态符号执⾏:符号执⾏是⼀种通过分析程序的路径和约束条件来探索所有可能的执⾏路径的技术。动态符号执⾏则是在程序运⾏时进⾏符号执⾏。这些⽅法可以更深⼊地理解程序的逻辑,从⽽检测到业务逻辑相关的错误。2. 深度学习与机器学习: ⼀些研究⼯作尝试使⽤深度学习和机器学习技术来改进模糊 试的效果。这些⽅法可以学习程序的⾏为模式和逻辑,帮助发现更复杂的错误。3. 结合其他测试技术:模糊测试可以与其他测试技术结合使⽤,例如单元测试、集成测试或者系统测试,以提供对业务逻辑的更深⼊的检查。

尽管这些⽅法在业务逻辑错误检测⽅⾯取得了进展,但仍然存在挑战,因为每个软件系统 的业务逻辑都是独特的。由于模糊测试的随机性,它在检测复杂的业务逻辑错误⽅⾯⾯临 挑战。在没有适当的"oracle"的情况下,确定软件是否按预期运⾏可能是困难的(虽然可以通过采用如差分测试等方式缓解这一问题)。未来的研究可能会继续探索更智能化、⾃适应的测试⽅法,以应对不断复杂化的软件业务逻辑。

董震:

其实,缺乏测试预言是自动化测试一直面临的难题,简单的错误类型比如崩溃、越界不涉及被测程序的业务逻辑,相对容易是实现。

业务逻辑相关的错误难在自动生成相应的测试预言:1)缺乏相应的规范(Spec)2)根据规范生成测试预言也面临困难。

不过,大语言模型的出现确实可以带来机会,利用大模型自动化生成业务逻辑相关的测试预言。

观点讨论

@黄松:大模型对于业务逻辑测试预言的贡献?业务逻辑是严格的精确的,还是大致差不多都可以?我们军用软件系统的业务逻辑多少个领域专家审查尚且不能确定测试预言,用大模型给出一个参考或者引导,然后专家再去二次确认也许现实还可行。

@董震:@黄松Oracle是需要精准的,完全靠大模型应该不行,大模型可以帮助减少一些人工。

薛吟兴:

模糊测试器AFL这种主要是利用结果的崩溃或死机的例子来做为找到的异常。本质AFL是做内存破坏漏洞的检测的。而对于没有明显内存破坏特征的错误或漏洞的检测,可能需要设计一套相关的检测规则来解决这个问题。 相关工作1:在我们之前对多线程的fuzzing的工作MUZZ(USENIX Security’20)中,我们当时分了两步:fuzzing阶段使用asan插桩来识别crash,发生的crash对应的输入会在验证阶段重新跑多次验证是否会crash。fuzzing过程中还会生成一些“看似正常的输入”,这部分在验证阶段会被用插桩了ThreadSanitizer的程序多次跑,以查看是否会造成data race。这里我们整合了ThreadSanitizer来作为测试预言。 相关工作2:我们之前针对智能合约的Xfuzz(TDSC‘22)主要是对fuzzing得到的trace进行一系列规则的判断。 这里我们要检测的每一种智能合约漏洞都是有相应一些规则的。所以是加入了一些预先定义的检测规则来作为测试预言的。最后,还有一部分逻辑错误可以使用差分测试方式。

房春荣:

测试预言(Oracle)是软件测试的一个最基础的问题,也一直是自动化测试的痛点问题。正如各位老师已经提到的蜕变测试,是TY Chen教授为了缓解这个问题而提出的,其通过挖掘测试场景的中的特定领域知识来构造蜕变关系,满足该蜕变关系的一组输入,其输出也满足特定的关系。例如sin (π − x) = sin x,不满足这个关系的sin函数一定是错误的(注意,满足这个关系的sin不一定正确)。将基于领域知识的蜕变关系引入到模糊测试的生成器中,生成能满足特定蜕变关系的测试用例对,可以在一定程度上缓解模糊测试结果的判定问题。现在已经有部分工作,尤其是AI系统测试中得到了广泛的使用和认可。比如,武汉大学谢晓园教授、南京大学陈振宇教授、华东师范大学的苏亭教授的部分相关工作。另一方面,模糊测试难以检测业务逻辑缺陷的一个原因在于很难从业务逻辑提炼一般规律来充当测试预言,从而使得现有的模糊驱动比较片面,只能覆盖待测软件很小的区域。因此,从模糊驱动合成的角度出发,我们可以考虑在模糊测试之前针对特定的缺陷类型进行插装、在模糊测试中引入人类知识、生成更多样的模糊驱动。例如,MUZZ针对程序的并发问题进行插装,IJON使用手动注释帮助模糊测试探索更深层的程序状态,Utopia通过程序分析将已有单元测试转换成模糊驱动。

观点讨论

@张超:这里说的蜕变关系,是与安全不变量类似吗?这个就需要对漏洞建模了,比如ASan利用的就是inaccessible bytes不应该被访问 这个规则。

@董震:@张超建立准确的漏洞模型确实很难,是否可以退一步,做弱oracle的检测,比如通过fuzzing发现那块可能是漏洞

@张超:@董震这个fuzzing无能为力,它是完全依赖sanitizer来判定是否是漏洞。如果要做弱Oracle,我认为大模型是不错的解决方案。

@黄松:你的意思在模糊测试中谈oracle,基本上没有啥意义。

@房春荣:@黄松黄老师,oracle问题很难完全解决,这个意义上好像确实没什么意义;但是可以通过蜕变、差分、大模型等技术来进行缓解,充分挖掘可能存在的问题,这个角度上就非常有实践价值。

狄鹏:

我直接聊业务逻辑,我赞同张老师的观点的,这的确是实际应用中最难解决的一类问题。这类故障,单纯从代码实现上看,都没有问题。但是不符合业务的实现逻辑,同时没有做对应的保护及校验。仅仅从代码视角出发的测试技术,其实很难发现。 现在解决这类问题的手段,往往是通过开发规范,辅以规则制定,和测试来完善。随着 AI 技术的应用,在这个领域也有很多新的思路和发展。通过大模型来理解代码实现和业务逻辑的匹配,发现新的规则,是一种非常有实用价值的探索方向。我们团队也在尝试往这个方向做技术探索。

宋凤仙:

模糊测试能发现哪些类型问题和监控器强相关,目前在企业应用中一般都推荐使用地址消毒器做为模糊测试的监控器,因此模糊测试基本上可以发现大多数内存类问题。但是对于业务逻辑类问题,自动化测试手段一般都很难触发,理论上来讲,如果针对每一种业务都去定制业务逻辑监控器和测试模型,模糊测试也是可以发现业务逻辑类问题的,但是如果这样开展模糊测试的话,工程化成本就太高了。

Question 4

主持人:模糊测试通常需要设定一个测试时间(time budget)作为终止测试的条件,时间的设定主要依靠经验(例如24小时)而没有统一的标准。您对于这个问题怎么看?未来是否可能有更好的方法来确定模糊测试的充分程度?

刘杨:

就实际使用场景来说,目前确实主要是安全专家自己根据经验去判断是否模糊测试充分,没有特别科学的一种判定方法,每个人按照自己的测试需求和经验来断定。

但我认为决定模糊测试是否充分这件事情,测试时间只是其中一个维度,仅用时间来断定不够充分。比如测试一个mp4解析器,一个空种子文件,和一个精心挑选的种子集合,在同样24h内测试效果肯定不一样。再比如一个测过很久的和完全没测过的mp4解析器,也会有类似的问题。这个时候,相对更合适的一种方法可以是看测试实际的效果,比如说覆盖率多少时间内不再增长就停,或者一周没找到新的漏洞就停等。安全专家们往往也是大概按照这样的思路去做的。

之前FSE里面有一篇工作尝试做一些模糊测试的理论性分析,试图用数学的方式来判断出什么时候需要测试充分。这是一个很有意义的方向,如果有一些理解上的突破,会对实际模糊测试的应用产生很大的指导意义,避免资源浪费。

张令明:

模糊测试的充分度如何判断是一个非常经典和困难的问题。不光是测试时间(budget),甚至是测试的指标(metric)都没有统一的金标准。我感觉24小时的时间设定的主要原因是研究人员很多时候没有办法承受更长的时间开销,而24小时也通常可以反映出不同技术之间的比较趋势。我觉得结果的比较趋势会比某个时间节点的结果更有说服力、同时不同的软件系统最佳的测试时间也要根据实际系统的测试需求来定夺。概率分析和建模未来或许对模糊测试充分度的标准也有一些指导意义。

姜宇:

测试的充分性很难判断,只能发现问题,不能说没有问题,这是测试的天然局限性。目前就是一直在旁边测,可能可以从程序覆盖,极值覆盖等多个维度进行判和分析。经常也会有专家问我说是不是测完了就好了,我也确实没办法回答。

张超:

模糊测试的终止条件有很多种,目前大家在论文中主要采用24小时这个标准,这是为了进行实验的公平对比而采用的。除了固定的时间之外,还可以采用其他指标,例如代码覆盖率增长瓶颈、计算资源饱和度等。目前看到的比较好的方式是在模糊测试进入瓶颈期之后,尽快结束测试,然后对保留的种子测试例进行提炼,重新开始新的模糊测试过程。这样有可能更快地突破原来的瓶颈。这里也有一些探索性研究工作,比如前面提到的新的反馈信号设计工作,通过引入新的反馈信号(如程序状态),可以引导模糊测试生成多样性的测试例,打破原来的瓶颈,进一步提升模糊测试覆盖率。

张煜群:

确实,模糊测试的测试时间常常是基于实际情况和经验来设置的,⽽没有⼀个固定的标 准。这是因为模糊测试的有效性和效率可以受到多种因素的影响,如测试的⽬标、被测试 软件的复杂性、使⽤的模糊测试策略和⼯具、硬件资源等。这种基于经验的设置⽅法有其 局限性,因为它可能导致过早的终⽌,从⽽遗漏⼀些潜在的缺陷。反之,过⻓的测试时间 可能会浪费资源⽽得不到额外的收益。

可能的改进⽅向:1. 可以考虑在模糊测试过程中引⼊动态的终⽌准则,例如,如果在⼀段时间内没有发现新的缺陷或未能增加代码覆盖率,那么可以考虑终⽌测试。2. 基于过去的模糊测试结果和数据,可以使⽤机器学习⽅法来预测最佳的测试时间。这 意味着,通过分析历史测试数据,我们可能能够更准确地确定何时终⽌测试。3. 除了时间外,可以考虑结合其他指标作为模糊测试的终⽌准则,如覆盖率、唯⼀崩溃数、路径覆盖等。4. 模糊测试可以与其他软件测试技术相结合,如符号执⾏、静态分析等。这样,即使模糊测试终⽌,其他⽅法也可能继续发现潜在的问题。5. 对于⾮常复杂的软件,可以考虑将其拆分为多个模块或组件,然后分别进⾏模糊测试。这样,对于每个模块或组件,都可以根据其实际情况和需求来设定更为合适的测试时间。

董震:

其实主要原因是不同的软件系统对可靠性、安全性的要求不一样,比如生命攸关的软件需要更高的测试充分度,要求更长的fuzzing时间。

常远来看,我们需要更成熟的方法去评估测试充分度,类似于我们传统工业产品的评估标准比如六西格玛 (6σ)标准,达到给定标准后停止模糊测试。前面也有探索工作,通过对bug分布建模,然后评估剩余bug的概率风险,这个方向倒是值得去探索。

薛吟兴:

对于这个问题,我自己没做过太多研究。我NUS的师弟Marcel Böhme 2016年有篇文章很有意思讨论这个课题 A Probabilistic Analysis of the Efficiency of Automated Software Testing. IEEE Trans. Software Eng. 42(4): 345-360 (2016),讨论了随机测试和模糊测试的理论收敛速度。最近,他们在ISSTA23上有篇论文Green Fuzzing,就是研究测试时间充分性的工作,采用机器学习纯静态的预测潜在漏洞位置,然后观察在fuzzing的过程中是否覆盖到了这些漏洞位置在不同的指标下都表现出了良好的性能权衡。测试终止问题可以规约为停机问题,对这方面的探索肯定是没有止境的,并且纯静态的方法从理论上来说也是不完备的,未来会出现更多的终止判定方法。比如在测试的过程中收集动态数据来调整潜在漏洞位置集合等等。

房春荣:

测试充分性问题也是软件测试的一个基础性问题。工业实践中,一般测试覆盖率会作为一个重要的参考,比如开发者测试。但在模糊测试中,实际的覆盖率可能很低,覆盖率没有变化的情况下也可能发现问题,而且能够提升测试覆盖率的用例可能在测试一段时间后才能产生,因此,很难使用测试覆盖率来作为充分性判断准则。相比而言,模糊测试通常使用时间预算来作为终止条件。在实验中一般将模糊测试的时长设定为24小时,最近也有论文提出23小时就足够,这两种时间设置是比较能够满足实验需求,同时也比较能够均衡资源和可靠性。实际使用过程中其实时间越充足越好,包括有部分模糊测试工具长达几年的部署运行。比如ETH的苏振东教授发表的EMI & SPE编译器测试工作,已经被部署到持续模糊测试流程中。目前已经有针对模糊测试充分程度的论文。正如薛老师提到的,ISSTA'23的GreenFuzz围绕待测软件的高危区域提出了一种新的指标,可以动态地预测模糊测试的充分程度并在认定模糊测试已经充分之后停止模糊测试进程。

狄鹏:

前面老师针对这个问题聊到了很多最新的技术,我好好学习一下。从应用角度,互联网公司强调敏捷开发,对开发到发布上线的流程通常是在保证质量的前提下,追求极致。从应用情况来看,Fuzzing测试的周期往往有很多指标综合考虑组成的, 例如,1)行覆盖,分支覆盖等技术维度;2)应用重要度,链路关键节点情况等架构维度;3)修改代码的过往故障率,线上流量的峰值情况等运维维度。还有其他的考量因素。其实我们已经把Fuzzing 的观察时间从发布阶段,逐渐往线上观察进行转移。通过采样观察、流量隔离等手段来降低线上负载。以此在保证开发效率的前提下,拉长整个观察周期。

宋凤仙:

模糊测试的终止测试条件我认为应该结合产品业务场景和风险情况确定,而且产品不同版本之间也需要动态调整,对于协议模糊测试场景,华为最开始制定的标准是每一种协议至少跑15万迭代用例,后来优化为每一种协议不少于模糊测试工具推荐用例数,华为自研模糊测试工具会根据协议复杂度推荐用例数,不同协议迭代用例数差距很多,同一种协议的执行时间也会因为不用产品应用场景差异很大。

对于函数API模糊测试场景,华为最开始制定的标准是:单测试用例执行迭代用例数满足以下条件:在没有新的样本生成、也没有新的BU产生的前置条件下,执行迭代用例数大于1000万次或者测试时间大于1小时,后来随着公司模糊测试工具平台集群化并行能力的提升,终止测试标准优化为是执行迭代用例数大于3000万次或者测试时间大于3小时。

另外,我们也通过顾问了解到Google、微软、爱立信产品模糊测试周期与产品版本周期相同,724H持续执行,目前华为也推荐产品研发周期内构建724H执行环境,不间断开展模糊测试。

对于模糊测试的充分性,推荐通过多个维度去综合评估,比如执行迭代用例数,执行时间,报文字段覆盖率,代码覆盖率,单位时间触发问题数,现网问题数等等。

观点讨论

@董震:7*24一直测试成本确实比较高啊。

@宋凤仙:是的,所有我们内部也是推荐,不做为强制要求。

@董震:@宋凤仙注重增量代码的测试更好些。

Question 5

主持人:最近的一些研究显示大模型也展示出了很好的软件测试能力。您认为大模型会对模糊测试带来什么样的影响?同时,如何利用大模型来提升模糊测试的能力?在这些问题上有哪些好的切入点?

刘杨:

这个有非常多的可能性,按照我的理解,LLM对driver 生成,种子生成,mutation策略,feedback机制,oracle生成都可以做深入的集成。更重要的一点其实fuzzer真正的厉害的使用者是黑客,这些黑客的专业知识其实并不是在fuzzing工具里面,如何使用fuzzer和fuzzing工具的交互都是可以用大模型的思路来探索,这个才是fuzzing真正落地的好思路。个人的愚见,如何模拟人是以后软件分析里面最有价值的科研题目。

观点讨论

@董震:这是就是@彭鑫彭老师经常说的“暗知识”了。

@刘杨:@董震哈哈哈,魔法。

张令明:

我认为大模型会颠覆模糊测试和软件测试。

传统的基于生成和变异的模糊测试通常需要显式的表达生成任务(比如通过语言的上下文无关文法生成合理的程序来测试编译器),并根据这些表示来生成有效的测试。这带来了很多可能的问题和瓶颈:1)很多模糊测试问题会涉及到额外的、复杂的约束,导致传统的技术很难适用。2)成熟的模糊工具通常都会涉及到比较大的工程开发量。比如著名C编译器模糊测试工具CSmith的作者在10年间已经贡献了数以万计的源码,然后这也只能覆盖C语言的一部分语法。3)很多有效的模糊测试技术是只能针对特定领域的。

和这些传统模糊测试相比,大模型带来了完全不同的解决方案。我们最近的TitanFuzz工作发现大模型可以直接模拟传统的生成式和变异式的模糊测试。并可以有效解决传统模糊测试技术的痛点:1)大模型可以在概率的层面来隐式的学习和满足各种不同的约束。从而适用于很多传统技术应用困难的系统,比如深度学习编译器等等。2)大模型可以直接通过in-context learning或者fine-tuning来自动做特定领域系统的模糊测试,因而极大的抹平了传统技术需要的人工开销。3)大模型因为是在万亿级别开源代码数据集(例如github)上做的预训练,所以可以直接用来测试不同领域的系统。

当然,直接用大模型做模糊测试可能会带来一些问题,有很多切入点需要大家去一起探索和思考,例如:1)大模型的本质是模仿人类产生的代码和文字,所以它产生的测试用例也是符合大部分人类代码和文字的特征。但测试需要的是另类的、异常的测试用例。于是如何用指引大模型来产生异常的测试用例是非常重要的一个方向。我们最近的FuzzGPT工作做了一些浅薄的探索,希望可以抛砖引玉。2)大模型和传统技术相比在可解释性、可控性、以及效率问题上还有很多不足。未来大家可以多探索如何有机的结合大模型和传统技术。3)刚刚提到了测试预言的问题。大模型其实也是为这个重要的问题提供了一个额外的可能解决方案。虽然通用的100%可靠的预言生成大模型很难达到,但在很多特定领域大模型一定会帮助我们自动挖掘到更多的有效预言。4)如何构造更加通用的技术来利用大模型去测试不同类型的软件系统也会是非常重要和有趣的切入点。

观点讨论

@张煜群:待测目标和预训练语料相似度是否会有影响?如果是个全新场景下的应用(比如6g空天通信下的应用),大模型效果会如何表现?

@张令明:@张煜群大模型会有一些基础的知识能力和推理能力,所以即使是新的任务新的格式,也可以通过简单的in-context learning试试大模型的效果,我们最近的尝试发现大模型甚至可以发现量子计算系统的有趣bug。线下可以继续讨论。

@薛吟兴:@张令明对量子计算系统的fuzzing很感兴趣,期待张老师更多分享。

@张令明:@薛吟兴我们target的是qiskit系统,难点在于生成的程序要满足输入语言的规约以及量子计算API的额外规约。传统的技术很难同时满足这些规约。我们发现大模型通过基础知识和推理能力的储备,只需要额外的文档信息就可以生成很多有趣的量子计算程序。论文我可以私下发给薛老师。

@狄鹏:@张令明非常有意思。

@董震:@张令明大模型测试成本还是有些高啊,张老师如何解决这个问题的呢?

@张令明:@董震买卡!哈哈,开个玩笑,其实很多时候不一定需要最大的模型。

@董震:@张令明用小模型替代?能够达到同样的效果吗?

@张令明:@董震对的,我们发现很多时候开源的小模型fuzzing上的效果甚至可以比肩chatgpt,有一个原因是fuzzing其实有的时候也需要模型犯点错误来生成有趣的测试。

@张令明:@董震而且开源模型可以针对fuzzing操作和改进的空间大一点。

@狄鹏:@张令明小而美对专用领域非常有竞争力。

@董震:@张令明这倒是,可控、也能改进,去试试:D

姜宇:

大模型生成测试驱动,输入格式学习,甚至是输入迁移等方面,都可以发挥比较大的作用,我们在一些典型场景上做了一些尝试,确实也能提升模糊测试的能力。这块张令明老师做的比较多,我也是处于拥抱学习阶段。

张超:

目前有一些利用大模型来辅助模糊测试的工作,例如利用大模型为目标代码生成harness,驱动对目标代码更好的测试。

我觉得大语言模型最强的能力是能够理解代码的语义,在理解代码语义的基础上,大模型可以像人类专家一样理解漏洞,从而直接预测漏洞。因此,我觉得大模型可能更适合于作为Oracle预测潜在漏洞位置,并给出一定的解释和线索,然后模糊测试方案利用这些线索进行定向测试,生成可以触发漏洞的验证样本。

观点讨论

@薛吟兴:这点赞同。跟我华为基金的研究内容1基本一个思路。

张煜群:

⼤模型确实在代码理解和⽣成⽅⾯展现出了强⼤的能⼒。这为软件测试、特别是模糊测试,带来了新的机会和挑战。⾸先,传统的模糊测试 往往基于随机的输⼊⽣成策略,⽣成式⼤模型可以理解代码的结构和语义,从⽽⽣成更加 有针对性的测试输⼊,提⾼测试的效率和深度。如之前所提到的,模糊测试在发现业务逻辑缺陷⽅⾯有困难。但⼤模型,通过理解代码的意图和功能,可能有助于检测这类更深层次的错误。⽽且⼤模型可以被训练为⾃动⽣成特定的测试⽤例,这些测试⽤例针对可能的边界条件、异常情况或其他关键场景。此外,基于⼤模型的代码理解,可以动态⽣成模糊测试的策略,如选择哪些部分进⾏重点测试、如何调整输⼊⽣成的策略等。

董震:

大模型会在很多层面上给模糊测试带来机会,前面的老师也说到了:

种子输入的质量很大程度上会影响模糊测试的效果,当前主要依靠人工给的少量种子输入,大模型能够利用强大的知识库能力生成有效的种子输入,提升模糊测试的能力;

另一方面,大模型能够帮助模糊测试推断输入格式或者学习输入的语法,以便更高效生成输入。

薛吟兴:

我个人觉得大模型会对模糊测试带来很大的促进。模糊测试强大在高效和自动化,而LLM可能会让模糊测试变得更高效和自动化。比如原来模糊测试找到的crash要去人工来分类root cause, 那以后是不是可用大模型来自动分类了?此外,模糊测试还可以更有效的帮助生成测试驱动程序 --- 自动代码生成才是大模型最擅长的事。我认为大模型因为有强大的训练语料库和良好的组合性,在API测试领域有良好的表现。例如最近的一些研究就调研了LLM在测试驱动生成的能力,最大的问题就是LLM本质上是一个随机模型,会出现很多小错误导致可用性大幅度降低。例如生成的驱动不仅存在语法语义错误,还可能违反API潜在的约束条件,这些约束条件藏在文档和约定俗成的习惯里,导致大模型因为很难正确理解。总结下来,我认为LLM for fuzzing有两个挑战:第一,如何让LLM生成语法语义正确的驱动,LLM对于流行语言的生成正确率可能还在可以接受的范围内,但是对于Rust,Zig,Move这类有着非常严格compilation checker的语言来说,LLM的驱动生成正确率将会大幅下降。第二, 如何在文档很少甚至缺失的条件下,正确输出良好的测试驱动。一个普遍的事实就是工业界代码都没有一个良好的描述文档,如何在这种情况下,解决测试驱动生成问题,将极大提高生产力。

房春荣:

现在已经有不少基于大模型的模糊测试工作,比如张令明教授的TitanFuzz和FuzzGPT。经过一些初步调研,我们认为大模型所拥有的强大的知识迁移和模板识别能力能够极大地提升模糊测试效率。比如,执行轨迹与种子输入的关联行分析是能够影响后续的种子排序和能量调度、决定模糊测试的走向的关键环节,也是模糊测试优化的一个难点。针对这一难点,我们可以考虑利用大模型分析出关键执行轨迹与种子输入之间的联系,利用分析结果帮助模糊测试识别和选择高质量的种子,或是为更具潜力的种子分配更多能量,从而提升模糊测试的整体性能。再比如,测试生成是模糊测试的核心步骤。如何高效地为待测程序生成合法且有效的测试输入是模糊测试的一个痛点。传统的变异式模糊生成方法具有一定的随机性,很难获取到待测程序所需的语法;而生成式模糊测试方法则要求预先给定完整的语法,对测试人员提出了很高的要求,增加了人工成本。我们可以考虑利用大模型从大量种子语料中提取待测程序需要的语法等领域知识,利用这些知识帮助模糊测试更高效地合成合法的测试输入。此外,还可以考虑利用大模型预测代码区域的风险程度,引导模糊测试去更快、更多地探索高风险区域;或是通过大模型预测执行结果来代替测试用例的执行,提升执行速率等。

狄鹏:

大模型为fuzz带来了非常多的可能,前面各位老师有很多研究心得。我团队在代码智能方面也做了些功课,一个有意思的想法,通过大模型对于业务逻辑和代码实现进行结合分析,可以应用到Fuzzing种子变异上。这点其实是大模型综合能力的一种体现,从业务逻辑的梳理是贯穿整个研发流程的。 例如,这类的数据收集涉及到软件开发的需求分析,系统架构分析,PRD设计,代码开发,commit 信息,code slice分析等各个环节。刚刚 @彭鑫(复旦大学)  和 @李戈 两位老师 也提到了这块。如果突破业务逻辑和代码实现的桎梏,会极大推动Fuzzing及其相关技术的进步。

观点讨论

@薛吟兴:@狄鹏狄老师,感觉是用LLM 加到开发全流程,自动帮助学习 业务模型或业务逻辑,再来指导测试。

@狄鹏:@薛吟兴是在尝试这个思路,其实就是借助ai,把逻辑和程序打通。

@房春荣:@狄鹏狄老师是用内部的大模型?还是外部的比如ChatGPT?StarChat?

@狄鹏:@房春荣我们在训蚂蚁的大模型,加训了代码知识,下半年会开源。也和群里很多老师取过经。

@张令明:@狄鹏这个想法很棒,大模型一统开发测试全流程。

@彭鑫:@张令明这个话题就大了。大模型有望帮助我们把来自开发历史、文档、代码等不同来源的碎片化知识进行深度融合,实现更强的智能化开发支持,特别是针对复杂软件系统的软件维护(问题定位、代码修改、回归测试等)任务。

@张令明:@彭鑫很期待这样的模型,现在的代码模型拿到的信息太扁平化了,基本就是成品软件的信息。但软件的整个历史对软件开发都有很大的意思。

@狄鹏:大模型把文字内容抽象也给了 程序员,程序员能涉及的可编程方面更多了。确实有机会能以前所不能。

宋凤仙:

从理论上来说,大模型可以用来优化模糊测试的子任务,比如学习输入模型,学习被测程序机构,种子筛选,生成最优变异策略,从被测程序反馈学习输入语法模型等。

访谈结束

CodeWisdom

一个有知识的软工公众号

发现智能化编程之道

原文链接:https://mp.weixin.qq.com/s/wy-FJSGfLQsAMx2ezGL27A