VxWorks操作系统是美国Wind River公司研发设计的一种应用在嵌入式环境中的实时操作系统。其拥有完善的开发环境、高超的可靠性和实时性。所以VxWorks操作系统不仅仅被广泛应用于军事、航空、航天等高精尖技术领域,同时也在物联网设备领域占有一席之地。尽管VxWorks操作系统有着很大的用户群体,但VxWorks相关的安全研究却并不多。由于VxWorks固件运行环境本身的复杂特性和其存在的物联网环境具有相对封闭的特点,传统的模糊测试技术并不能够很好的发挥作用。取而代之的是基于模型约束的模糊测试方法。这种方法通过遍历的方式在约束的模型中对样本进行变异。但这种方法进行样本变异的效率很低,并且随着协议的复杂化、协议字段数量的增加,其变异样本的数量会指数级增长,从而导致模糊测试效率低下。相比之下,路径反馈的模糊测试方法将模糊测试的变异样本与执行路径对应起来,用来指导后续的变异过程,这样可以提高样本变异的效率。基于以上背景,本文提出一种基于二进制静态插桩的VxWorks固件网络协议模糊测试的技术。该技术基于模型约束产生有效的模糊测试样本,并结合VxWorks固件运行后反馈的路径信息作为后续变异过程的指导方向。结合优化随机森林特征选择模型用于进行决策时效率高、效果好的优势,提升模糊测试的路径覆盖率和效率。本文设计并实现了基于二进制静态插桩和地址消毒技术的模糊测试平台Cani。通过对VxWorks的TCP协议栈进行模糊测试表明,相比目前的对VxWorks网络设备进行模糊测试的方法,本文提出的基于二进制静态插桩的VxWorks网络协议模糊测试技术在模糊测试的效率,模糊测试的能力方面均有提高,并能够兼容对更底层的网络协议进行模糊测试。