随着激光相关技术的发展和相干光通信等领域需求的提升,对单模激光器性能的要求也随之提高。而光纤激光器由于其多方面的优势,比如高光束质量和功率密度,良好的散热性能以及抗干扰性能,得到了研究人员的青睐。因为其优良的特性,在光纤通信领域、传感领域、工业领域、医疗领域以及军事领域中都有着广泛的应用潜力,在近些年得到了大量的研究。由于其优良的特性,我们对其展开了一系列的研究与实践。本文通过分析光纤激光器的基本原理,开展了如下工作:（1）介绍了不同结构类型的光纤激光器,以及单模光纤激光器的研究历史与发展现状,并阐述了其在多领域上的优势。概述了掺Er³⁺光纤激光器相关的基本工作原理,并对三能级和四能级系统进行了描述。对掺Er³⁺光纤激光器的输出特性进行了分析,归纳了不同的激光器单纵模选择方法,分析了影响激光器输出线宽的不同因素。（2）提出了通过利用波导谐振环的方法来进行单纵模选择的方案。对波导谐振环的功能进行了理论推导和原理仿真,证明了其的确有纵模选择的功能。并提出了利用波导谐振环搭建光纤波导混合激光器的方案,设计的基本结构,对参数进行了合理的选择。（3）根据设计的方案,制作了能够输出1535nm单纵模激光的光纤波导混合激光器,并对其性能进行测试。我们利用硅基波导制作了所需要的波导谐振环,通过采用单芯光纤阵列的方式,实现了光纤与波导的成功耦合。实验利用带宽为0.1nm的FBG用作谐振腔反射镜,OFS公司生产的EDF150LD型号的高浓度掺铒光纤作为增益介质,Oclaro公司生产的LC962UF76P-20R型半导体激光器作为泵浦源,在泵浦电流为1.0A时,测得峰值输出功率为3.5mW,通过将输出光直接进行光电探测,根据其拍频信号的特征,成功验证其单模输出的特性。通过将整个谐振腔封装在紫铜外壳内,并采用TEC实现制冷功能,来保证谐振腔的温度控制与稳定。介绍了激光器线宽测量的各种方法,采用自延迟外差法测得搭建激光器的输出线宽。（4）介绍了相干光通信的研究背景和基本原理,阐述了当前相干光通信的发展情况和未来趋势。对零差相干光通信和外差相干光通信进行了性能上的对比。对模拟信号的相干光通信具体过程进行了理论分析与推导,分析了影响相干光通信的过程。对相干通信过程中噪声的影响进行了分析,并对之前制作的光纤波导混合激光器的噪声性能进行了测试,并提出了利用光电负反馈法抑制噪声的方案。