在自由空间光通信(Free Space Optics Communication,FSOC)中,信号光在通信过程中不可避免会受到大气湍流的影响,使得信号光波前发生畸变。为了提高FSOC系统的通信质量,自适应光学技术得到了广泛研究,其中基于模式法的无波前传感器自适应光学(Wavefront Sensorless Adaptive Optics,WSAO)技术因其校正速度快而拥有巨大的应用潜力。本文主要研究基于变形镜本征模式法的WSAO技术对FSOC系统中畸变光斑的校正情况。本文主要工作如下:1、使用基于Hill谱的功率谱反演法模拟不同强度的大气湍流,并对不同强度大气湍流影响下的畸变光斑进行模拟分析;介绍了 WSAO系统的各个组成部分及工作原理,并对常见的光束质量评价指标表达式进行推导。2、根据69单元高速变形镜的促动器影响函数推导了其对应的69阶变形镜本征模式;结合菲涅尔衍射和多相位屏传输原理建立了系统仿真模型,分析了不同情况时模式系数偏置的最佳取值,以斯特列尔比为评价指标研究了该方法对畸变光斑的校正能力;以系统快速收敛比为指标对变形镜本征模式法的校正性能进行了分析;并对多种校正算法进行了数值仿真,分析比较了各算法之间的不同之处。3、搭建室内、室外实验光路对系统实用性进行了验证。室内实验结果发现该方法可以将系统的斯特列尔比由0.11、0.32、0.56分别提高到0.57、0.71、0.88;室外实验结果证实了该方法可以校正由动态大气湍流引起的波前畸变,且系统斯特列尔比可以维持在0.85左右。本文研究结果表明:基于变形镜本征模式法的无波前传感器自适应光学技术可有效的校正FSOC系统中因大气湍流效应而引起的波前畸变,并且算法收敛速度快,在实际应用中具有明显效果。