随着移动互联网和IoT的兴起，市场上的软件越来越多，由于软件复用，基础库中的漏洞可能被传播到成千上万的软件中，其中也包括闭源的商业软件。基于源码的漏洞检测技术在无法获取源码的情况下并不可行，因此需要考虑二进制检测技术。具体来说，二进制相似度检测是指在无需获得源码的情况下，直接对二进制程序分析进而比较其相似性的技术，能有效地针对闭源软件进行漏洞检测。此外，二进制相似度检测也能应用在代码剽窃判定和版权纠纷问题上。
　　传统的检测技术通常先从二进制程序中提取特征，然后基于图匹配算法进行相似度检测。然而图匹配算法需要大量计算，精度也无法得到保证。基于图嵌入的检测方法先将二进制原始特征转化为高维向量，然后针对向量展开相似度检测，具有较好的扩展性。然而在目前基于图嵌入的方法中，原始特征仍然是人工提取得到的，特征提取过程会引入人为偏差。此外，从原始指令中直接学习到的特征又会依赖于架构信息。
　　为了解决这些问题，本文设计了基于中间语言的无监督学习方法来提取原始特征的方案和一套通用的对中间语言进行归一化和变量改写的方法，然后基于神经网络训练二进制函数相似度检测的模型。在训练模型时，使用Structure2vec神经网络让函数从其函数调用图中的邻居聚合学习，能够更有效地应对程序控制流图的变化。本文的主要工作如下:
　　1.调研了二进制相似度检测的相关技术，包括基于原始特征和基于图嵌入的两类方法。
　　2.设计并实现了基于VEX的中间语言，并将各架构下的二进制程序转换为中间语言用于特征提取。
　　3.针对中间语言提出一种通用的变量改写方法，能有效地对栈变量、临时变量、全局变量进行恢复和改写。
　　4.提出了基于Structure2vec的函数调用关系处理方案，增强了相似度检测模型应对控制流图变化的能力。