现阶段国内组播流媒体服务普遍采用IPv4传输,且由于网络设备不兼容、服务协议不支持等原因,组播并没有成为网络传输的主要方式。而在下一代互联网建设中,推荐使用的IPv6协议对组播提供了良好的支持,该协议通过性能上的优势为组播传输系统的发展铺平了道路。此外,由于组播系统在国内的普及度很低,组播服务质量(Quality of Service,QoS)问题在实践上并没有获得太多的关注。但是随着下一代互联网建设的发展,IPv6网络的不断覆盖,组播服务质量相关应用的研究将变得更具有实际意义。因此,QoS组播路由优化问题的研究对下一代互联网建设具有前瞻性的意义,将成为网络优化的一个重要研究课题。本文首先详细介绍了IPv6组播相关的基础知识,并在IPv6的协议框架下搭建了校园网内的组播系统,进行了实际部署,完成了相应的测试等工作。然后,论文通过组播传输对服务质量的需求分析,引出了多约束组播路由优化问题,并详细介绍了算法的分类和发展方向,研究了几种经典多约束QoS路由算法并分析其中存在的问题。针对经典的蚁群算法的初始参数选择问题,本文提出了BBO-ACO混合优化算法对其进行改进。我们基于MATLAB仿真平台,先后在经典8节点网络拓扑特例和随机生成的不同规模网络中对BBO-ACO算法进行了仿真分析,从算法的收敛速度和寻优能力等多个方面与传统蚁群算法进行了对比。相关数据表明,新算法在寻优能力上具有一定优势。