随着互联网的迅速发展,网络蠕虫对计算机系统安全和网络安全的威胁日益严重。P2P蠕虫是以P2P网络为生存环境的新型网络蠕虫,能够利用P2P网络特性实现漏洞主机定位、自我复制和传播。P2P节点中保存的邻居节点信息,以及节点间具有的同构性、动态性等特点,使P2P蠕虫比传统网络蠕虫具有更准确的定位能力、更隐蔽的传播方式和更强的传播能力,因而影响范围更大、危害程度更高。P2P蠕虫的研究已经成为网络安全研究领域的热点课题,如何有效抑制P2P蠕虫的传播成为非常迫切的问题。通过分析蠕虫自身传播机制和实际网络环境对蠕虫传播造成的影响,建立准确描述P2P蠕虫传播过程的数学模型,能够深入揭示P2P蠕虫传播的客观规律,从而提出有效的抑制策略。本文首先分析了P2P蠕虫的攻击行为,结合复杂网络理论、流行病学等相关理论提出了P2P蠕虫传播的数学模型。在此基础上,通过对P2P蠕虫传播模型的分析与研究,预测蠕虫传播趋势,识别P2P蠕虫传播链中存在的薄弱环节,提出有效的防御策略,并通过理论分析和仿真实验对防御策略的有效性进行验证。本文的研究成果可以很好地揭示P2P蠕虫的传播规律,为制定有效的P2P蠕虫抑制策略,控制并最终彻底清除P2P蠕虫提供理论依据,具有重要的理论价值和应用前景。本文围绕不同种类的P2P蠕虫在不同的网络环境中的传播建模和抑制策略展开了深入研究,具体内容如下。结合复杂网络、流行病学等相关理论,提出了一种主动式P2P蠕虫传播的数学模型,在模型中考虑了P2P网络中节点的扰动性(Churn)等动态因素对蠕虫传播的影响。通过对模型的理论分析,推导了主动式P2P蠕虫不会流行的充分条件,获得了P2P蠕虫的清除阈值：基本再生数。通过仿真实验验证了主动式P2P蠕虫传播模型的有效性和基本再生数的正确性。通过研究不同参数对主动式P2P蠕虫传播的影响,提出了对主动式P2P蠕虫的抑制策略,并给出了动态隔离DQP协议。在此基础上,提出了主动式P2P蠕虫的动态隔离数学模型：PWPDQ模型。在模型中引入了检测、动态隔离和免疫策略的相关参数,推导了基本再生数,并通过仿真实验验证了抑制策略的有效性。深入分析了被动式P2P蠕虫攻击机制和感染方式,结合P2P网络、平均场强和流行病学等相关理论,考虑用户对文件的操作行为和P2P文件共享网络的动态特性,分别建立了被动式P2P蠕虫的静态传播模型和动态传播模型,推导了基本再生数,通过仿真验证了被动式P2P蠕虫传播数学模型的有效性和基本再生数的正确性。提出了一种基于脉冲控制的被动式P2P蠕虫抑制策略,研究了免疫策略和蠕虫文件删除策略对被动式P2P蠕虫的抑制效果,并建立了相应的数学模型。通过仿真实验验证了脉冲抑制策略的有效性。目前,针对IPv6网络中P2P蠕虫的研究较少,还没有研究者建立相应的数学模型。本文分析了IPv6网络中P2P蠕虫的两阶段攻击行为,并在此基础上建立了IPv6网络中P2P蠕虫基于种群的离散传播模型,并通过仿真实验验证了数学传播模型的有效性。在此基础上,提出了IPv6网络中P2P蠕虫的协同抑制策略,设计了协同抑制协议,并引入相关的动态参数建立数学模型。通过仿真实验,分析了蠕虫传播过程中相关参数的变化对于蠕虫抑制策略运行效果的影响,验证了该策略的有效性。