星间光通信具有广阔的应用前景,已经成为各国研究的热点。在卫星间光通信系统中,瞄准、捕获和跟踪(PAT)技术是关系到通信链路建立和保持的关键技术,其中跟踪系统用来保持光学链路的稳定,在PAT技术中尤为重要。跟踪技术分为单向跟踪和双向跟踪,后者更能适应复杂的星上环境。本文首先对国内外卫星间光通信技术的研究现状和进展进行了综述,分析了几种典型的PAT系统,尤其是其跟踪系统部分。然后介绍了卫星光通信系统中的跟踪系统。此后分析了光束跟踪的基本原理、描述了方位角误差模型并建立了接收功率模型。在此基础上完善了适合于双向跟踪分析的单向跟踪模型,并进行了双向跟踪系统的分析,得出了双向跟踪耦合方程组。在建立双向跟踪系统模型的过程中将整个双向跟踪过程看作由两个单向跟踪过程为一个交互周期的多周期跟踪过程。进行稳定性分析的时候,采用基于统计理论的分析方法。在深入研究双向跟踪耦合方程的基础上给出了稳定性的数学描述方式,推导了对准误差的条件方差,然后得出了对准误差稳态方差和与跟踪时间相关联的初始对准误差方差需要满足的条件。最后通过数值仿真进行了星间双向跟踪稳定特性的计算,分析了各个参数对于稳定性的影响。作为卫星光通信研究的一部分,本文还针对卫星光通信仿真系统中对于双向跟踪的要求,根据双向跟踪耦合方程搭建了双向跟踪仿真系统。本文的研究对星间光通信PAT系统设计具有重要意义,为双向跟踪系统的开发提供了理论基础,并为卫星光通信仿真系统的设计开发了双向跟踪部分的仿真模块。