太阳帆作为一种无需消耗任何燃料和工质的新型航天器推进机构，已逐渐受到各国航天领域专家的高度重视。由于太阳帆航天器自身结构特性，传统执行机构难以满足其姿态控制需求。本文旨在研究柔性太阳帆航天器的动力学建模理论与姿态控制技术，完成太阳帆航天器姿态动力学模型建模工作，并基于所建立模型设计姿态控制-振动抑制一体化控制器，通过仿真实验对所建立姿态动力学模型和所设计控制器进行可靠性验证。为了初步研究不同类型姿态执行机构对太阳帆航天器的姿态控制效果，本文首先针对载有转动控制杆与移动滑块两种执行机构的太阳帆航天器，分别进行刚体动力学建模与姿态控制研究。在刚体模型研究工作基础上，为进一步研究系统柔性结构振动对航天器姿态控制过程的影响，并设计相应姿态控制-振动抑制一体化控制器，本文重点对带有转动控制杆的太阳帆航天器展开研究：基于拉格朗日分析力学，并结合有限元理论，建立对象航天器的刚柔耦合姿态动力学模型；为克服传统小扰动法设计所得控制器对系统大范围状态变化控制效果不佳的缺点，优化系统的大角度姿态机动能力，基于增益调度思想设计了变增益LQR姿态控制器。仿真结果表明所设计控制器能够对存在初始姿态误差及初始柔性振动的太阳帆航天器实现大角度快速姿态机动与长期姿态保持，同时具有良好的柔性结构振动抑制效果。为进一步对所建立刚柔耦合模型及所设计控制器进行验证，本文基于ADAMS虚拟样机动力学仿真环境，结合ANSYS有限元分析软件，共同建立带转动控制杆的太阳帆航天器刚柔耦合虚拟样机模型，并借助ADAMS-MATLAB间数据交换接口建立联合控制-仿真平台，完成太阳帆航天器虚拟样机联合控制-仿真实验。虚拟样机仿真实验结果与基于自编有限元计算程序的数值仿真结果高度吻合，进一步证明了本文所建立的太阳帆航天器刚柔耦合姿态动力学理论模型的正确性和所设计控制器的有效性。