卫星激光通信相比于微波通信终端有着更小的体积、重量和功耗,并且具有通信容量大、频谱资源丰富、方向性好和保密性强的优点,可以很好地弥补微波通信的不足。目前激光通信中接收机一般需要将自由空间传输的信号光耦合进光纤后再借助成熟的光纤通信器件对信号进行处理以提升系统性能,但是受到大气湍流效应、光束发散角和平台振动的影响,卫星通信中信号光到单模光纤的耦合效率较低且难以保持稳定,这极大地限制了激光通信系统的性能。最近的研究表明多孔径相干光接收机和数字相干合并技术的结合能够有效增加光信号的接收面积,提升接收信号的信噪比,并可有效抑制大气湍流效应造成的信号光功率的起伏。本文围绕上述系统中信号光的传输模型和数字相干合并技术展开研究。具体研究内容如下:1)针对星间通信建立了链路传输损耗计算模型,研究了卫星平台振动对光纤耦合效率的影响,为链路功率预算和参数设计提供了指导。2)针对星地通信建立了基于多层相位屏的光束传输和光纤耦合数值模型。模拟了星地下行通信中接收端光场的分布、光纤耦合效率起伏变化,以及孔径间距大于大气相干长度时多孔径接收机输入信号光信噪比（optical signal to noise ratio,OSNR）和理想情况下最大比相干合并输出OSNR动态变化,并采用理论统计模型对数值仿真结果的准确性进行了验证,为系统的优化设计奠定了基础。3)针对实际相干合并中存在的相位对准误差,建立了描述等比和最大比相干合并中各路输入信号OSNR、相位对准误差、相位对准算法使用符号数量和输出OSNR之间关系的统计模型,并据此对相位对准算法进行了优化,降低了其计算复杂度。最后通过大量数值仿真以及实验结果验证了该模型的准确性。