空间激光通信具有通信速率高、通信容量大、抗干扰、抗截获能力强、功耗小等优点。为了保证光端机实现远距离传输,空间激光通信的通信束散角很小,这要求通信双方必须保持极高的动态对准精度,因此需要高跟踪精度和高可靠性的捕获、对准和跟踪（APT）系统。精跟踪系统对粗跟踪残差进行进一步抑制,APT的最终精度由精跟踪单元决定,快速反射镜系统作为精跟踪的伺服执行单元,实时调整内部光路方向,对光斑脱靶量进行修正,实现收发两端的光束精对准。因此对精跟踪快速反射镜系统的控制设计对于空间激光通信精跟踪技术的研究、系统跟踪效果的提升具有重要意义。本文依据精跟踪快速反射镜系统的组成、工作原理,通过原理分析、建模仿真和实验测试对空间激光通信中精跟踪系统的关键技术进行了系统研究。对于快速反射镜系统提出了基于非线性增益的模型参考自适应控制策略,对精跟踪系统采用滑模变结构控制思想设计了一个精跟踪滑模控制器。利用MATLAB对所设计的控制器进行数值仿真,验证了所设计控制器的有效性。最后搭建实验平台,将研究内容中相关技术应用到精跟踪快速反射镜系统上,实验结果表明所设计控制方案下快速反射镜有良好的动态性能,精跟踪系统具有较好的跟踪效果,为之后在空间激光通信中的应用奠定基础。