随着软件技术的迅猛发展,其安全性得到了越来越多的关注。软件漏洞挖掘尤其是二进制软件漏洞挖掘已成为网络安全界研究的重点与难点。目前,针对Linux平台软件的漏洞挖掘工具日趋成熟,而针对Windows平台软件却缺乏一套高效的漏洞挖掘系统。因此提升Windows二进制软件漏洞挖掘效率,提出一套高效的模糊测试技术方案已成为当前安全研究者面临的一个焦点和热点的课题。本文首先对现有软件漏洞分析技术进行了总结,讨论了从静态和动态两个角度对软件的描述方法,针对常见漏洞类型及其产生的原因进行了简要分析。并且对目前业界和学界研究与应用中采用较为广泛的漏洞挖掘技术的发展现状进行了简要综述,并对软件漏洞挖掘技术其未来发展趋势进行了展望。其次,根据前文对软件漏洞及其产生原因进行的分析,本文基于静态分析实现了对软件危险代码区域的定位。在此基础上,本文提出了结合软件的静态代码特性与软件执行的动态信息,对测试用例进行打分的策略,提高了模糊测试中测试用例生成的有效性。最后,本文针对Windows下二进制软件的特点,结合目前最为先进的模糊测试工具AFL的测试用例生成思路,提出了一种适用于Windows二进制软件高效模糊测试工具AFLow,通过实验,证明了其有效性。本文主要研究内容如下:(1)提出了结合静态分析辅助的模糊测试技术。论文通过基于对目前二进制软件中已知常见的安全性漏洞的进行的成因分析,对这些已知漏洞在二进制代码层面上存在的共性静态特征进行分析归纳。然后根据其静态特征采用静态分析方法实现了对敏感代码区域的定位。根据基本块与危险代码区域的距离,可以对基本块的敏感程度进行描述,并利用动态测试的反馈结果对权值进行迭代更新修正。以静态分析权值作为辅助信息作为测试用例打分的依据,能够促使测试用例朝着距离危险代码区域更近和测试深度更深和路径覆盖率更高的方向变异。(2)设计实现了Windows下内存模糊测试系统AFLow。本文在保留AFL的先进策略的基础上,结合Windows平台的系统特点,基于内存模糊测试的方法,将其移植Windows平台上,实现了AFLow漏洞挖掘系统。该系统通过使用动态污点分析的方法对测试区域进行定位,提高了内存模糊测试的自动化水平。通过针对典型真实软件的漏洞挖掘测试,证明了本文提出的模糊测试系统AFLow的有效性。