随着社会信息化的发展，人们对通信网的要求迅速增长，光纤通信向更高速，更大容量方向发展。目前，在商业的光通信网络中，单信道速率己达到10Gbit/s并逐步向40Gbit/s过渡。在这些高速光通信系统中，各种商用的光放大器和色散补偿技术的应用，原本没有得到重视的偏振模色散效应由于在网络中不断积累，将成为影响未来超高速光纤通信系统性能的主要因素，越来越引起人们的关注。本文围绕偏振模色散这一重要效应展开工作，主要研究了高速光纤通信系统中光脉冲在偏振模色散、偏振相关损耗和非线性效应作用下的传输特性。 本文首先简单介绍了偏振相关损耗和非线性效应，以及它们对传输系统的影响。然后详细说明了偏振模色散和偏振相关损耗对光脉冲的影响，介绍了偏振模色散的数学模型和仿真模型——分段随机耦合模型，这是本文仿真的基础模型。利用此模型得到了差分群时延的仿真结果，以及引入偏振相关损耗后，差分群时延统计特性的变化。再详细论证了非线性耦合传输方程及其数值求解，对分段随机耦合模型进行了改进，通过与以有结果的比较验证了程序的可靠性。在此基础上研究了偏振模色散、偏振相关损耗、非线性相互作用后的光脉冲传输特性。分别给出了在各个因素影响下，脉冲展宽、时间抖动的概率密度分布曲线和眼图及其变化情况，得到了一些有意义的结果。 最后对本文的研究成果进行了总结，并提出了进一步可以开展的工作。