近年来网络威胁加剧,每天新增恶意代码已达37万,并仍在上涨,传统的恶意代码检测系统静态检测准确率、效率有待提高,导致大量样本需要进行动态检测,所需的计算资源和时间成倍增长。因此,需要对传统恶意代码同源鉴定技术进行改进,提高恶意代码静态检测的准确率、效率,降低动态检测负担,有效提高恶意代码检测系统的工作效率,以应对日益增长的大规模恶意代码。论文调研了目前国内外恶意代码同源鉴定技术的研究现状,剖析了目前恶意代码同源鉴定技术存在的主要问题——特征向量不能对恶意代码进行有效表征。在调研了特征提取技术、自然语言处理技术、深度学习技术、聚类技术等相关技术后,提出使用静态API调用序列作为恶意代码行为特征,使用GloVe词向量模型进行向量化表示,使用改进的textCNN网络令恶意代码分类准确率提高了1.51%-3.76%,使用改进的single pass增量聚类模型解决了传统聚类迭代过多、重复计算的问题,极大提高了恶意代码聚类效率。本文创新点在于引入词向量概念改进特征提取、向量化技术,在特征向量中保留可计算的API调用函数的语义、时序关系,从恶意代码行为层面对恶意代码进行有效描述,并对分类网络和聚类模型都进行了相应的改进,提高了恶意代码同源鉴定的静态检测准确率、效率。通过论文的研究,设计并实现了原型系统,有效提高了恶意代码静态检测的准确率,进而提高了恶意代码检测系统的工作效率,为进一步在网络安全领域占据主导权奠定了的基础。