多播作为多点传输的组通信模型,能够节省网络资源、提高数据传输效率,是下一代Internet应用如视频会议、数据分发、游戏和仿真等系统的关键支撑技术。由于其自身缺陷(如组成员管理、可扩展性、网络部署等),IP多播至今未能得到广泛应用。应用层多播(Application Layer Multicast, ALM)应运而生,ALM不需要改变现有的网络设施即可提供多播服务,其研究旨在将组成员节点自组织成覆盖网络,直接在组成员之间建立数据分发树,将多播相关功能(包括组成员管理、报文复制、数据分发等)在终端节点实现。在ALM体系结构中,拓扑结构的管理起着重要的作用。现有文献中,许多研究者在拓扑结构的维护与优化工作中作了相关的研究,但没有考虑在拓扑构建时加入优化机制。在ALM中,多播树中的非叶节点起着关键的作用。当非叶节点退出或失效时,其下游节点将受到影响,需要考虑一种容错机制能够使受影响的节点自动从多播树的分割状态中恢复,并快速重新加入到多播组通信之中。非叶节点易成为外部攻击的目标,需要考虑一种容侵机制能够消除系统中的单点失效,即任何单点的故障不影响整个多播树的正常运行。目前容侵技术还没有应用于ALM中。本文主要研究了应用层多播协议中的树管理协议的优化及其容错与容侵机制。相关研究工作要点如下:(1)选择Yoid中的树管理协议(Yoid Tree Management Protocol, YTMP)作为研究基础,在其上加入了“距离临近”算法对其树构建过程进行了优化,提高了网络传输效率的同时增加了拓扑结构的稳定性,此优化思想同样可用于其它应用层多播方案;(2)在综合分析相关工作基础之上,提出了一种改进的协同式失效检测方案,结合可靠的失效恢复算法,从而实现可靠的容错机制;(3)针对应用层多播提出了相应的容侵机制,以保证系统服务的连续性;(4)用C语言实现了树构建过程的优化机制。