窄线宽近衍射极限光纤激光是指谱线宽度小于或在0.1nm量级、M²因子小于或等于1.5的光纤激光光源,具有相干性好、光束质量高等优点,在地球科学、原子物理、非线性频率转换、光束合成等领域有广泛的应用。采用大模场面积光纤和光谱展宽技术抑制非线性效应,窄线宽近衍射极限光纤激光的输出功率已经达到千瓦量级。然而,随着输出功率的提升,窄线宽光纤激光器中会出现热致模式不稳定,导致输出激光的光束质量突然退化。目前,热致模式不稳定是限制高光束质量窄线宽掺镱光纤激光输出功率进一步提升的主要因素之一,也是国际上高功率光纤激光领域的研究热点。论文基于掺镱窄线宽全光纤放大器,对窄线宽近衍射极限光纤激光模式不稳定进行了理论和实验研究,探索适用于全光纤窄线宽光纤激光的模式不稳定抑制方法。主要包括以下内容:1.建立了窄线宽光纤激光模式不稳定的新理论模型。从经典模式耦合理论出发,综合考虑大模场面积光纤的模式特性以及光纤中温度分布特性,建立了窄线宽光纤激光模式不稳定的半解析理论模型,获得了模式非线性耦合系数的解析公式,揭示了不同物理参数与光纤激光模式不稳定之间的关系。2.定量分析了光纤结构参数、激光系统参数等对光纤激光模式不稳定的影响。研究结果表明:随着纤芯直径减小、泵浦包层尺寸增加、纤芯数值孔径减小,光纤激光模式不稳定出现的阈值增加;随着注入信号光功率增加、信号光中初始高阶模比例减小、信号光强度噪声减小、泵浦光波长偏移976nm,光纤激光模式不稳定阈值增加;采用后向泵浦、双端泵浦、多波长泵浦也可以提高光纤激光模式不稳定阈值;掺杂浓度、制冷方式、偏振特性对热致模式不稳定无明显影响。3.研究了全光纤窄线宽光纤激光模式不稳定的物理表征及影响因素。对热致模式不稳定的光束质量“饱和”现象进行了分析;首次提出通过探测散射光功率来研究光纤激光模式不稳定的方法,并进行了实验验证。实验结果与理论仿真基本吻合。4.研究了增加高阶模抑制、增加增益饱和和同带泵浦等方法对全光纤窄线宽光纤激光模式不稳定的抑制效果。首次提出利用915nm泵浦提高光纤激光模式不稳定阈值的方案,并进行了实验验证。理论分析了利用弯曲选模、改变泵浦光波长和采用同带泵浦抑制光纤激光热致模式不稳定的可行性。在理论分析的基础上搭建实验平台,利用弯曲选模,实现1.5kW近衍射极限线偏激光输出,并验证了近衍射极限光纤激光功率目前仅受限于合束器的承受功率;利用915nm泵浦时,实现了1.26kW近衍射极限线偏激光输出。5.建立了含LP₁₁模式的窄线宽光纤激光自由空间传输模型,修正了传统M²因子。修正后的M²因子克服了传统M²因子受LP01模式与LP₁₁模式间相对相位影响的不足,可以用于评价基于低数值孔径、大模场面积光纤的窄线宽光纤激光的模式成分。研究了含LP₁₁模式的窄线宽光纤激光的自由空间传输特性,首次发现LP01模式与LP₁₁模式间相对相位对目标上桶中功率无影响。若利用自适应系统矫正模式间相对相位导致的远场光斑峰值与目标靶面中心的偏移,桶中功率随模式间相对相位变化存在最优值,最优的相对相位为π/2。