主动式光电跟踪系统属于共光路成像探测,除了常规的加工装配误差、机架抖动等因素会影响系统的探测能力之外,光学系统通道内热晕和热对流的存在,光学元件镜面热变形,大气湍流等也会对系统探测光束产生强干扰,使系统包含有离焦、球差、像散、慧差等低阶大幅值像差,严重影响了系统的探测能力。基于共光路成像探测过程中这些强干扰的存在,本文以相位差波前探测技术为基础,深入研究在低阶大幅值像差干扰条件下,从优化算法方面提高系统探测能力的方法。首先,介绍了光电跟踪系统的典型结构,简单概括了影响光电跟踪系统探测能力的主要因素。构建了线性空不变非相干成像系统的成像模型,推导了相干光和非相干光成像在空域和频域的计算公式。理论推导相位差波前探测重构波前、复原目标像的基本原理,并且根据极大似然估计理论得到了简化后的目标函数公式,从而把相位差波前探测的问题转换为选择最优化算法求目标函数极值的问题。根据理论模型仿真得到了点目标和扩展目标的退化图像。然后,总结了目前常用的传统优化算法及其优缺点,针对传统算法在大幅值像差条件下存在易于陷入局部极值、收敛速度慢、收敛精度低等问题,以及课题需要满足在低阶大幅值强干扰条件下,提高系统探测能力这一实际需求,提出一种结合禁忌搜索和粒子群优化算法的混合粒子群算法。对于点目标和扩展目标两种情况,通过仿真验证本算法在波前像差RMS值在0.1λ~1λ范围内的优化探测能力。同时仿真对比了发展的混合粒子群算法和SPGD算法在不同幅值像差条件下的收敛精度。仿真结果表明,发展的混合粒子群算法相较于传统优化算法具有收敛精度高、不会陷入局部极值的优点,在波前像差RMS值为1λ以内都能够达到10量级的收敛精度,完全满足课题的要求。最后,利用液晶空间光调制器搭建实验光路,验证混合粒子群算法在实际应用中的优化能力。首先用条形光栅相位法对液晶空间光调制器进行标定,然后通过生成不同像差对应灰度图控制液晶空间光调制器分别产生不同幅值的单阶像差,验证混合粒子群算法对单阶像差的优化能力。实验结果表明,发展的混合粒子群算法对离焦、球差、慧差、像散像差的波前复原精度在10左右,实验结果与仿真结果基本一致。