无波前传感器自适应光学系统的波前误差校正方法包括两大类：一类是目前研究较多的无模式优化方法，包括遗传算法、模拟退火算法、随机并行梯度下降（StochasticParallel Gradient Descent，SPGD）算法等，这类算法直接控制变形镜对像质评价函数进行优化直至函数收敛，一般需要多次迭代。常用的SPGD算法收敛所需的迭代次数与致动器单元数的平方根成正比，当采用高致动单元数变形镜时算法收敛缓慢。另一类波前校正方法的优化对象是组成波前误差的一系列符合一定数学关系的模式系数。当变形镜致动器单元数较多时采用基于模式的波前控制方法可以显著减少待优化变量个数从而加快算法收敛。牛津大学Martin Booth等人在研究高分辨率显微成像时提出一种基于Lukosz模式的非迭代无波前传感器自适应光学校正方法。该方法根据Lukosz模式系数与评价函数之间的二次曲线关系直接求解出各阶模式所需的校正量，和SPGD算法相比无需多次迭代，算法实时性大大提高。但在实际中由于变形镜拟合能力有限，无法准确产生Lukosz模式，存在模式拟合误差，导致校正精度下降。针对这一问题，本文提出采用基于变形镜本征模式的无波前传感器优化算法，变形镜本征模式由变形镜各致动器的影响函数矩阵推导而来，反映了变形镜本身的校正能力，可以由变形镜准确产生，避免了采用传统Lukosz模式时的模式拟合误差，因而具有较高的波前重构精度。本论文的主要工作有：一、详细阐述了基于变形镜本征模式的无波前传感器自适应光学校正方法（下称“模式法”）的基本原理，并由变形镜影响函数推导了一组符合导数正交特性的变形镜本征模式。二、仿真研究了模式法的参数优化问题，分析了算法对Zernike像差的开环与闭环校正能力，研究了算法对信噪比和图像结构的要求。对比了采用变形镜本征模式和采用Lukosz模式时算法的校正精度。和传统随SPGD算法的校正速度和校正精度进行了比较。三、通过搭建实验系统，获得了OKO公司37单元薄膜变形镜的本征模式，在此基础上验证了模式法的可行性。在相同实验条件下，分别与采用Lukosz模式校正及SPGD算法校正进行了实验对比。实验结果表明，和Lukosz模式相比采用变形镜本征模式具有更高的校正精度。模式法和SPGD算法校正精度相近，但模式法校正速度快，具有更高的闭环校正带宽，并且避免了SPGD算法容易出现的收敛停滞问题。四、通过对比分析模式法与SPGD算法的优缺点，提出了一种基于模式法和SPGD算法的混合无波前传感器自适应光学校正方法。该方法先采用模式法校正，然后在此基础上继续采用SPGD算法校正。实验结果表明，采用混合校正方法可以避免模式法对变形镜行程要求较大的问题，同时有效地减少了SPGD算法的迭代次数。