波分多路复用WDM（Wavelength Division Multiplexing）无源光网络PON（Passive optical network）是未来宽带接入网络的发展趋势，可以提供给每个用户给几乎无限的带宽，且在运维管理、容量可扩展性，以及信息安全上具有的优势，使得WDM PON极具有吸引力。目前大多数国家都己经完成了长途骨干网络的光纤化部署，而在骨干网中大多数都会采用WDM技术，WDM技术可以将多个波长的信号集合到一根光纤上进行传输,因此能实现大容量传输。针对WDM-PON技术，在欧美、日韩等国家有着较先进的研究，各CWDM粗波分复用器件市场化发展明显且进步神速。然而，对于大规模商用部署，WDM PON又过于昂贵，因此WDM PON的竞争力仍有待提高。特别是，当我们需要高传输速度和大传输距离的同时还能提升其成本效益，这个时候对于WDM PON，其关键是进一步的提高传输速度和传输的最大距离（或者分光比）。但要注意的是，不是一味的增大速度和距离就越好，必须要考虑要能经济且高效的实现这些目标的大前提。经过不断的实验和摸索，基于反射式半导体光放大器（RSOA）的WDM-PON的方案应运而生。要抑制昂贵的外部调制器和光放大器，又想要使用无色光网络单元（ONU）和双向单纤系统，那么基于RSOA的WDM-PON是不二选择。目前国内已经有如清华大学，北京邮电大学，上海交通大学等高校，对基于RSOA再调的WDM-PON技术展开了大力的研究，关于基于RSOA再调技术的多种调制方式的研究也是一片火热，但是RSOA在降低成本的同时又带来了速率受限的难题。那么基于RSOA再调制的WDM-PON的性能到底如何，速率受限的问题出在哪里，怎样最优的去解决这个问题呢？带着这些问题，本文主要针对基于RSOA再调制下的WDM-PON系统的性能进行了一系列全面的研究。首先是RSOA的物理特性的研究，以及它对上行调制的信号的幅度与相位等的影响估计以及优化策略的研究；然后结合多种上行调制方式，如NRZ，DPSK，QPSK等调制方式，研究上行传输的再调制格式对上行传输性能的影响以及最佳选择的研究；并研究了DPSK下行调制下的系统的最大传输速度与未使用任何如EDFA放大器情况下的最大传输距离；最后，结合RSOA的频率响应特性，对基于RSOA的WDM PON系统的多种调制格式下的系统性能做总结并提出仍可改进的突破点，以供后续研究参考。以下是本文主要的研究成果：首先系统地研究了WDM-PON技术的国际发展动态，以及它的结构特点，提出WDM-PON技术存在的问题以及应对的可行方案；其次系统地学习了RSOA（反射式半导体激光放大器）的物理特性，以及在再调制过程中对再调制信号的幅度、相位等影响的估计；然后系统地研究了如NRZ，DPSK，QPSK等调制方式时的，上行RSOA再调制的系统的性能，并分析了传输速度与距离与调制格式之间的关系；然后研究了结合电均衡技术的直接调制RSOA的上行再调制下的上行系统的最大传输速度与传输距离，不使用任何放大器，并简单的分析了电均衡技术以及其对色散的补偿效果。最后结合RSOA的频率响应特性，研究了如何提高RSOA的3-dB带宽的物理方法，以及引入MZI后的基于RSOA的上行系统的性能分析，以及提高系统调制速率的原理，并详细的进行了理论与实验的全面分析。