集群航天器是通过无线连接方式构成的虚拟航天器系统,具有在轨灵活性、可扩展性、可维护性和快速响应能力,研究集群航天器对于加快快速响应空间系统的建设速度,增强空间技术创新能力和提高新型航天器研制水平具有重要意义。为满足集群航天器模块间能量传输、数据交互的需要和应用需求,本文研究了集群航天器空间圆形编队问题,进而引出集群航天器编队构形保持问题,为避免采用姿态和轨道分别描述和设计控制器造成顾此失彼的被动局面,研究了集群航天器姿轨一体化动力学建模问题和姿轨一体化控制问题。论文的主要内容如下：针对集群航天器空间圆形编队问题,基于平均轨道要素差建立了无摄相对运动模型,给出了空间圆形编队构形设计流程。当零J2摄动条件不再适用时,通过分析J2摄动对编队构形的影响,进而提出修正公式,仿真结果表明,该修正公式能有效抑制编队构形的迹向漂移。由于修正公式只是抑制而非消除主、从航天器相对位置误差的发散趋势,因此还需对航天器加以控制。针对集群航天器姿轨一体化动力学建模问题,采用对偶四元数框架体系,给出了传统参数的对偶四元数描述,建立了单航天器姿轨一体化动力学模型,进而拓展到可同时描述航天器间相对姿态和相对轨道运动的两航天器相对姿轨一体化动力学模型。该相对动力学模型形式简洁,避免了传统姿态描述方法存在的奇异性和繁琐的运算,可用于集群航天器姿轨一体化控制器设计。针对集群航天器姿轨一体化控制问题,将控制问题即编队构形保持问题分为两类跟踪问题并分别设计姿轨一体化控制器。一是主航天器按预定轨道运行,同时跟踪任务要求的期望姿态运动,设计了反馈线性化-广义PD控制器和近似函数-滑模控制器,仿真结果验证了控制算法的有效性。二是从航天器相对虚拟主航天器的运动满足编队构形设计的轨迹,同时跟踪任务要求的期望姿态运动,设计了改进的鲁棒自适应控制器,仿真结果表明该控制器能有效抑制执行机构的输出饱和问题。