随着宽带信息网络的快速发展,传统的强度调制／直接检测(IM/DD)光通信系统在面对更高带宽要求,更大传输速率时,已经不能满足未来传输大容量数据的要求,提高光通信系统容量成为光通信发展的研究热点。基于数字信号处理的高阶调制相干光通信,不仅可以提供高速的传输速率,而且可以在电域实现系统传输损伤补偿,成为了下一代高速光通信网络中最有竞争力的技术之一基于此背景,本论文对相干光通信系统中涉及的关键技术——载波相位恢复技术进行了研究。具体完成的工作有以下几点：1.对传统的载波相位恢复算法即M次幂载波相位估计算法进行了研究。仿真分析了40Gb/s DQPSK调制格式相干光传输系统在不同激光器线宽情况下,M次幂载波相位估计算法对系统性能的影响,并仿真分析了M次幂载波相位估计算法涉及的参数N对相位估计性能的影响,通过仿真获得了激光器线宽与最优参数N选择的关系。仿真分析了色散对M次幂载波相位估计的影响。2.针对高阶调制格式,对一种基于De-MZM的星形16QAM光信号的生成方式的原理进行了详细阐述,并通过仿真验证了该生成方案的可行性。通过这种方式生成星形16QAM光信号不仅简化了结构,而且由四路不需要进行差分编码的二进制信号直接驱动调制器。通过仿真得到了外环与内环振幅比为2.41的星形16QAM光信号。3.对16QAM相干光通信系统载波相位恢复算法进行了研究,重点阐述了盲相位搜索算法、改进的盲相位搜索方式的算法以及QPSK分割与最大似然相结合的新型分割算法。在基于De-MZM的星形16QAM光信号生成的发射机结构基础上,搭建了100Gb/s的星形16QAM相干光通信系统,仿真分析了色散对载波相位估计的影响,对比分析了色散完全补偿情况下未采用载波相位估计与采用载波相位估计对系统性能的影响,并研究了盲相位搜索算法探测相位个数对相位估计的影响。