涡旋光束具有螺旋相位结构,携带的轨道角动量（Orbital angular momentum,OAM）具有正交特性,且OAM模式数可以取任意值,因此对OAM进行复用能提高自由空间光通信的容量。而实际通信链路中的大气湍流使得涡旋光束光斑弥散,产生相位畸变,进而裂化OAM模式,产生模式串扰,降低通信质量。波前校正技术利用相位共轭补偿原理从根本上解决光束波前畸变问题,进而提高OAM空间光通信系统的质量。为了提高涡旋光束波前校正的质量,本论文基于无波前传感波前校正原理,采用随机并行梯度下降算法和遗传算法对不同畸变程度的OAM光束进行校正,实现了高质量光强分布和低串扰模式的目的。主要研究内容分为以下几方面:第一,概述了涡旋光束畸变波前校正的基本原理。本文简要介绍了OAM光束自适应校正系统的组成及工作原理,阐述了OAM光束的基本特性和波前畸变的产生方法,描述了随机并行梯度下降算法和遗传算法这两种经典的波前校正算法,随后重点考察了不同算子组合对遗传算法进行波前校正质量的影响,为后续研究OAM光束波前校正提供必要的理论基础。第二,研究了高质量光强分布的波前校正技术。波前的畸变程度影响OAM光束的光强分布质量,畸变光束和理想光束之间的光强相关性可用光强相关系数表示。因此,本论文选取光强相关系数作为高质量光强分布波前校正的评价函数,并采用随机并行梯度下降算法、遗传算法对不同畸变强度下的单模和多模OAM光束进行了校正。结果表明,在弱畸变下（-6rad-6rad）,本方法可将拓扑荷l=1的单模光束的光强相关系数能从0.73提升至0.94,拓扑荷l=1,-2的多模OAM光束光强相关系数能从0.66提升至0.96。在强畸变下（-15rad-15rad）,拓扑荷l=3的单模涡旋光束光强相关系数能从0.35提升至0.78,拓扑荷l=1,3,5的三种模式涡旋光束光强相关系数能从0.27提升至0.69。第三,研究了低串扰模式的波前校正技术。波前畸变易使OAM光束的模式产生串扰,这势必增加OAM模式解复用的难度,而以光强相关系数为评价函数的校正算法降低模式串扰的效果不明显。本论文直接选取螺旋谱分布作为低串扰模式波前校正的评价函数,同样采用随机并行梯度下降算法、遗传算法对不同畸变强度下的OAM光束进行了校正。结果表明,在弱畸变下（-6rad-6rad）,本方法可将拓扑荷l=3的单模OAM光束的模式纯度可以从0.56增加至0.98,可以将l=1,3,5的多模光束（各个模式的功率相等）中拓扑荷l=1的相对功率从0.24提升至0.30,l=3的相对功率从0.14提升至0.32,l=5的相对功率从0.13提升至0.32。在强畸变下（-15rad-15rad）,拓扑荷l=1的单模OAM的模式纯度可以从0.48上升至0.89,可以将l=1,-2的多模OAM光束（各个模式的功率相等）中拓扑荷l=-2的相对功率从0.11提升至0.42,拓扑荷l=1的相对功率从0.32提升至0.44。说明本论文采用的方法能较好地实现低串扰模式的OAM波前校正。