物联网终端安全是当今网络安全的研究热点,利用固件漏洞是对终端安全影响最广泛的攻击手段之一,攻击者可以利用终端固件漏洞实现对物联网设备的持续性威胁。为便于开发,许多厂商使用了未验证的第三方开源库,造成同一漏洞可能存在于多源异构的多个物联网设备上,因此寻找二进制固件代码中的库函数漏洞成为了近年来的研究重点。本文对跨架构二进制漏洞函数搜索问题进行了研究,针对当前方案中存在的稳健特征的选择、跨架构漏洞的搜索以及跨版本函数的识别等问题,构建了基于机器学习的跨架构漏洞函数搜索模型,设计了面向模型的特征选择遗传算法和基于模型融合的函数嵌入生成算法,提出了完整执行路径的概念以识别函数补丁细粒度的改变,实现了在跨架构环境下对漏洞函数的精确搜索。本文主要的研究内容和创新点如下:1)对二进制函数稳健特征的选择问题进行了研究,针对当前方案选取的特征适应性不强,无法应对编译环境差异造成的二进制代码改变的问题,构建了二进制函数特征选择模型,设计了面向模型的遗传算法,从函数控制流图的基本块中筛选出在不同体系架构和编译环境下具有稳健性的特征,并结合数据流信息和函数调用信息作为最终选择的特征。2)对跨架构二进制漏洞函数搜索问题进行了研究,针对当前方案在跨架构环境下搜索精度不高的问题,在选取的稳健特征基础上,构建了基于模型融合的跨架构漏洞函数搜索模型,分别从函数内和函数间两个层次的特征中学习更完整的函数语义信息,实现了有效的跨架构二进制漏洞函数搜索方案。3)对跨版本二进制函数识别问题进行了研究,针对基于函数相似性的漏洞搜索方案的精度无法区分漏洞函数和补丁函数的问题,构建了Inst-CNN模型,解决了指令跨架构的比较问题,提出了完整执行路径的概念,准确捕获细粒度的补丁语义改变,实现在跨架构环境下识别跨版本函数的功能。论文完成了基于机器学习的跨架构漏洞搜索系统原型的设计,在第三方开源库和真实的设备固件上进行了测试,模型在几组评估中的AUC均高于常用的Gemini方案,说明该原型系统在漏洞函数搜索问题上具有更高的准确性。此外,系统原型能够在候选集中进一步区分跨版本的漏洞函数和补丁函数,减少了人工分析工作量,提高了搜索效率。在测试的过程中,发现了某品牌摄像头高危漏洞一款,并准确定位了受其影响的324款在售摄像头,获CNVD年度最具价值漏洞。