动量交换装置作为执行机构应用于航天器姿态控制中具有可减少航天器燃料消耗的优点，但同时存在动量饱和、几何奇异及硬件损坏导致输出力矩维数降低等难以解决的物理问题。本文以单框架控制力矩陀螺与反作用飞轮两个典型动量交换装置为例，针对几种典型构型下的航天器姿态控制存在的特殊问题进行了深入研究。首先，针对单框架控制力矩陀螺群与航天器组成的整体系统，分别给出航天器与单框架控制力矩陀螺群的传统数学模型，随后对重力场中的整体系统进行数学建模，在考虑航天器短时间内大角度机动的前提下，将系统化简为仿射非线性形式，应用系统的Hamiltonian结构及可控性相关定理证明了系统在包含奇异状态前提下的可控性，为进一步研究基于动量交换的航天器姿态控制器设计问题奠定基础。其次，以航天器运动学与动力学方程作为系统状态方程，考虑到航天器存在模型不确定性、干扰力矩及控制力矩幅值限制，在传统控制方案框架下，分别对该状态方程设计了具有强自适应能力与鲁棒性的光滑反馈控制器与具有非光滑特性的滑模控制器。分析了单框架控制力矩陀螺群典型构型的性能指标，并针对金字塔构型设计了基于零运动的伪逆操纵律，随后通过仿真验证了传统控制方案存在的问题。针对传统控制方案存在的易出现奇异性，欠驱动条件下难于设计等问题，基于整体系统控制模型，采用非线性预测控制方法实现了整体系统的反馈控制。首先对单框架控制力矩陀螺群奇异问题进行数学分析，将该奇异问题转化为系统状态变量与控制输入受限的控制问题。随后提出变终端约束的非线性预测控制方案，在实现系统反馈控制的同时保证了控制系统的实时性。最后给出了整体系统线性化模型及其线性化区域的估计方法，从而保证了非线性预测控制系统的稳定性。再次，将所提出的控制方法应用于特定单框架控制力矩陀螺群构型下的航天器姿态控制问题，以解决传统控制方法中存在的奇异性问题。以具有低冗余度的金字塔构型为例，分析了冗余构型下整体系统采用非线性预测控制方案解的存在性及其线性化模型的可控性，随后分析了三种典型单框架控制力矩陀螺群非冗余构型的性能指标，给出了非冗余单框架控制力矩陀螺群的最优构型及该最优构型下预测控制方案可行的充分条件，并通过仿真验证了两种构型下采用预测控制方案对整体系统控制的有效性。最后，将所提出的控制方法应用于传统控制方法难于解决的欠驱动航天器姿态控制问题。首先给出了单框架控制力矩陀螺群剪刀对构型角动量集合的几何空间分布，对欠驱动航天器系统的不同模型进行了可控性分析，并采用非线性预测控制方案实现了整体系统的控制。在上述工作的基础上，以同样的思路解决了采用飞轮群的欠驱动航天器姿态控制问题。然后对采用两种不同执行机构的欠驱动航天器系统进行仿真，结果验证了欠驱动航天器系统可控性结论及控制方案的有效性。