随着光通信系统单信道传输速率的增加,色散效应越来越成为40Gb/s及以上光通信系统的限制因素。对各种色散效应的补偿,一方面可以通过各种色散补偿方式来实现,其中电子色散补偿技术(EDC)由于其成本低、自适应强等各种优点成为近年来色散补偿技术的热点;另一方面可以采用各种新型的调制方式来抑制各种色散方式甚至非线性效应等给信号带来的损伤。对于40Gb/s及以上的光通信系统,为满足系统传输的要求,采用优秀调制技术和EDC技术相结合无疑是更好的解决方式。本文结合EDC技术和新型调制方式来共同抑制和补偿色散效应对信号造成的损伤,并分析两者的相互影响。首先对EDC技术常用的前向均衡器(FFE)结构和判决反馈均衡器(DFE)结构的研究和对比,发现DFE结构较FFE结构具有更大的优势。对于EDC算法方面,所提出的改进的最小均方误差(LMS)算法利用输出的当前误差信号来估计下一步的更新步长,因此算法有着良好的收敛特性和对信道的跟踪性能。对各种新型调制方式进行了综合评估。在强度调制方式中,占空比为66%的归零码(RZ)码型各项性能指标表现最佳;在相位调制方式中比较优秀的调制方式是差分相位调制(DPSK),如果能有效解决噪声的影响,差分四相位调制(DQPSK)也是非常有潜力的调制方式。最后,仿真在不同调制格式下的EDC性能,发现在载波频率被抑制的调制方式下EDC的补偿效果相对不明显。