随着2010年日本IKAROS号太阳帆的成功发射,世界各国掀起了太阳帆技术研究的热潮。太阳帆由于采用太阳光压力作为推进力而无需消耗任何燃料,因此拥有传统航天器无法企及的优势,可实现传统航天器无法实现的航天任务。其中,太阳帆人工拉格朗日点halo轨道由于其相对主天体的独特几何关系,可应用于多种航天任务,如太阳风监测、天文观测、信号中继等。由于halo轨道固有的不稳定性导致了航天器必须通过轨道保持控制以防止其偏离参考轨道。相对于传统航天器,太阳帆可通过太阳光压力进行轨道保持从而无需消耗燃料,然而由于太阳光压力的固有特性也导致太阳帆的轨道保持面临诸多挑战。因此本文针对太阳帆halo轨道保持,从轨道设计、轨道控制方法以及轨道控制手段多方面开展研究,主要包括以下几方面内容:首先,推导给出了太阳帆在日-地系圆型限制性三体问题与椭圆型限制性三体问题中的运动模型。根据光子动量交换原理推导给出了理想反射太阳帆、非理想反射太阳帆以及带反射率控制装置（RCD）太阳帆的无量纲化光压模型。考虑太阳帆光学性能随时间退化,给出了指数型光学退化模型。以上模型为轨道设计与轨道保持设计提供了模型基础。第二,目前文献中的太阳帆halo轨道主要基于圆型限制性三体问题设计并用作轨道保持的参考轨道。因此地球轨道偏心率会对轨道保持产生一个较大的扰动作用。为提高轨道设计的保真度,本文提出一种基于椭圆型限制性三体问题的太阳帆halo轨道族设计方法。该方法设计的halo轨道已经考虑了地球轨道偏心率的影响,因此在作为参考轨道时地球轨道偏心率不会对轨道保持产生扰动。该方法首先利用改进的三阶近似法与微分修正法设计得到圆型限制性三体问题中满足周期约束条件的种子轨道,进而采用改进的变增量数值延拓法分别对地球轨道偏心率与光压因子作数值延拓得到椭圆型限制性三体问题中的太阳帆halo轨道族。并采用理论分析与数值仿真两种方式对轨道稳定性开展分析,表明示例轨道族在黄道面内的运动不稳定,而垂直于黄道面的运动为临界稳定,且轨道稳定性随轨道幅值增大而增大。最后,通过数值仿真对比分析了采用基于椭圆型限制性三体问题设计的halo轨道与基于圆型限制性三体问题设计的halo轨道作为参考轨道时的轨道保持性能,结果表明前者的轨道保持性能显著优于后者。第三,太阳帆的轨道控制与姿态控制相互耦合,其运动模型具有非线性、强耦合的特征。当实际轨道与控制变量相对参考轨道偏差较大时,基于传统线性控制方法的轨道保持面临失效风险。为此,本文提出一种基于间接观测的自抗扰轨道保持方法。区别于目前文献中普遍采用的基于对轨道状态作直接观测的自抗扰控制方法,该方法对实际轨道相对参考轨道的偏差进行估计。由于轨道偏差的动态特性慢于轨道自身的动态特性,因此间接观测的精度显著高于直接观测。此外,由于运动模型的非仿射性（控制变量以非线性形式出现在运动方程中）,自抗扰控制只能得到轨道保持所需的控制加速度,而无法得到所需控制变量（如姿态角）。目前文献通过对控制加速度作线性化得到控制变量的线性近似解,而本文采用牛顿迭代法求解控制变量的精确数值解。通过数值仿真对比分析表明:间接观测自抗扰轨道保持精度显著高于直接观测自抗扰轨道保持,且对不同误差条件的适应性显著优于传统的LQR轨道保持。第四,常规太阳帆无法对太阳光压力的量值进行有效控制,从而无法提供法向的控制加速度。RCD太阳帆可在一定程度控制太阳光压力量值,然而可提供的法向控制加速度十分有限,极大制约了轨道控制性能。为此,本文提出了一种太阳帆固联单自由度电推进器的混合推进轨道控制方案。推导给出了相应的太阳帆/电推进航天器运动模型。并采用基于间接观测的自抗扰控制方法设计了轨道保持控制律。通过示例计算表明,RCD太阳帆可提供的法向控制加速度远小于切向控制加速度;而太阳帆/电推进航天器可提供的法向控制加速度与切向控制加速度基本相当。通过数值仿真表明,太阳帆/电推进航天器轨道保持的误差收敛速度与鲁棒性相对于RCD太阳帆显著提高。最后,针对RCD太阳帆在光学退化条件下的轨道保持,提出一种在线更新参考轨道的轨道保持方法,将轨道设计与轨道保持进行在线融合。分别提出一种易于工程应用的简易估计法与一种精度较高的无迹卡尔曼滤波（UKF）估计法对光学系数进行在线辨识。当判断光学性能退化至一定阈值时,通过将光学效率系数作数值延拓对参考轨道进行在线更新。通过数值仿真表明,采用参考轨道更新可不断对光学系数误差进行修正,从而使光学退化导致的扰动始终控制在轨道保持允许范围内,即使在光学退化较大的情况下轨道保持仍能保持有效。