伴随着互联网技术的迅速发展,网络的安全问题越来越引起人们的关注。在复杂网络中,存在着大量的攻击性病毒,一旦网络中的计算机被病毒感染并爆发,将会对人类的生产生活造成不可估量的损失。因此,本文针对网络安全中存在的问题,研究了恶意代码的分类和病毒的传播控制方法。通过从不同的角度来遏制或减小病毒在计算机中的传播,从而控制其造成的不良影响。本文主要进行两方面工作:（1）针对恶意代码家族存在的混淆问题,提出了基于卡尔曼滤波的多特征融合的恶意代码分类方法。在研究中,首先将恶意代码家族可执行文件转换为图像,然后基于离散分数阶卡尔曼滤波器,对混淆恶意代码进行降噪,并根据图像纹理特征提取GIST描述符,融合文件尺寸、系统调用、熵、n-grams特征和K最近邻算法,对滤波后的分类准确率进行测试与分析。同时,通过盐化对恶意代码进行混淆,验证分数阶卡尔曼滤波器算法的鲁棒性。选择适当的分数阶和状态矩阵,经过卡尔曼滤波,恶意代码家族内的变体距离更近而家族之间的变体距离增加。家族内的变体距离平均减小了66.5%,而家族间的变体距离增加了17.48%。多特征的融合恶意代码家族分类算法准确率达到98.76%,盐化后的分类准确率达到93.5%。使用分数阶卡尔曼滤波的多特征融合方法,有效提升了恶意代码分类准确度。（2）针对现有的计算机病毒模型,在基于静态网络图结构的计算机网络上,建模难度大、模型过于简化并且难于应用于实际生活中的问题,提出了基于博弈策略的复杂网络中病毒传播的SIQR模型。首先根据病毒的特殊属性,以及影响计算机病毒传播的关键因素,分析了网络结构中的病毒传播规律,建立连续时间的单一病毒模型。然后,在基于博弈策略的SIQR病毒隔离控制模型中,将节点分成不同的组,并在空间上将它们限制在单独的区域内。当策略时间尺度=1时,模型仓室内的节点密度随时间的增加而减小,计算机网络中的病毒得到了有效的控制,系统趋于稳定状态。综上所述,本文从网络外部的恶意代码分类和网络内部的计算机病毒传播控制两个方面,针对不同的角度对计算机网络中的病毒进行了研究。通过对这两种方法的理论研究、仿真模拟和数值分析,得到了优化的结论,为恶意代码分类和病毒控制研究提供了有力的技术支持。