在新一轮深空探测热潮中,以电推进系统为代表的小推力推进技术由于比冲高、燃料消耗低,得到了迅猛发展并不断应用于深空探测任务中。论文以此为背景,开展了深空探测器小推力轨道优化设计方法及其应用研究,主要研究内容如下:研究了小推力轨道设计的Gauss伪谱法,并从任务窗口的预先搜索和初值的快速生成两个方面对其提出改进。Gauss伪谱法是小推力轨道设计中的一种常用方法,该方法用全局Lagrange插值多项式来拟合状态变量和控制变量,将小推力最优控制问题转化为非线性规划问题求解。针对小推力轨道设计中的任务窗口参数范围跨度大、非连续性强、对设计结果影响显著等特点,提出了一种基于多冲量能耗估算的任务窗口搜索方法,从而预先给出任务窗口的可行区域,有利于缩小搜索范围,提高计算效率。同时,提出了一种由冲量向小推力直接转化的Gauss伪谱法初值快速生成方式,快速获得一条小推力轨道可行解以作为其初值,所生成的初值对提高Gauss伪谱法鲁棒性、计算效率和结果都有促进作用。针对直接打靶法中小推力轨道显式积分效率低下的技术瓶颈,提出了小推力轨道设计的动力学分解方法。借鉴探月轨道设计中多圆锥截线方法的思路原理,提出一种动力学分解方法来快速获得小推力轨道的近似解析解。该方法将一段时间内的探测器动力学方程分解成相互独立的几项运动,分别给出它们的解析或近似解析解,然后叠加得到这段时间内探测器轨道的近似解析解,再进一步递推快速得到整条小推力轨道。通过仿真算例详细分析了动力学分解方法的轨道精度和计算效率,并将动力学分解方法同改进的Gauss伪谱法进行了比较分析。为简化小推力轨道的求解过程,提出了一种小推力轨道设计的虚拟引力中心方法。该方法引入与太阳引力常数相同的虚拟引力中心,将探测器在日心引力和小推力作用下的运动转化成虚拟引力中心的运动,探测器在以虚拟引力中心为原点的动系中仍然作二体轨道运动。进而将小推力轨道设计问题转化成虚拟引力中心的轨迹优化问题。数值仿真验证了小推力轨道与虚拟引力中心的轨迹的等效性,并将三种不同实现形式的虚拟引力中心方法同动力学分解方法进行了比较分析。针对多颗小行星连续探测问题,研究了多目标探测的全局优化设计方案和多目标探测序列选取方法。在深空探测时往往会连续探访多颗目标天体以增加任务的科学回报,这就涉及到多目标探测的全局优化设计问题。针对该问题,以小推力轨道设计方法为基础,给出由相互联系的四部分组成的全局优化设计方案,并提出两种多目标探测序列选取方法,流管选星方法和回溯最佳优先搜索方法。最后,针对一个典型的小推力探测器访问多颗小行星的问题,对上述全局优化设计方案和多目标探测序列选取方法进行了验证和分析。论文系统研究了不同思路和原理下的小推力轨道优化设计方法,提出了多目标探测任务的全局优化设计方案和行之有效的多目标探测序列选取方法。论文得到的一些结论为小推力轨道的优化设计提供了理论和方法参考,对我国进一步开展深空探测工作也有一定的借鉴意义。