零差相干光通信是星间通信领域的发展趋势，与传统的微波通信系统相比，空间光通信具有高速率、长距离、系统体积小、功率需求低、安全性能高等优势，相干光通信技术比强度调制直接探测（IM/DD）通信方式具有更高的接收灵敏度，一般提高约10²0dB。零差相干光通信主要关键技术有光锁相环和调制解调技术，光锁相环能够实现本振光与信号光频率相位同步，是零差相干光通信高灵敏度的保证。本文首先介绍了零差相干光通信调制解调方案的选取，光调制选择了最简单的光学相位调制—BPSK（二进制相移键控）调制，这种调制方式能最大限度实现零差相干光通信高灵敏度的优势；相干解调的核心是光锁相环，文中比较几种常用的光锁相环的性能及其优缺点，并根据现有条件选择平衡锁相环和科斯塔斯锁相环，深入分析两种锁相环的工作原理，计算得到在相同噪声影响下，两种锁相环在误码率为10-9下解调的极限灵敏度约为21photons/bit、18photons/bit。然后根据理论分析结果应用软件Optisystem对零差相干光通信系统做了仿真分析，仿真结果表明激光器线宽越窄、接收光功率越高、传输速率越低相干接收灵敏度越高；接着应用Matlab中的simulink平台搭建更为全面的光通信仿真模拟系统，分别模拟了平衡锁相环和科斯塔斯锁相环的锁相性能，并测得两种锁相环在相同的散粒噪声影响下，其解调的极限灵敏度符合理论计算结果，并进一步仿真了在接收光功率为-60dBm下，两种锁相环相干解调的误码率分别为8.27×10^-6、2.67×10^-6。最后结合理论分析及仿真结果，利用两个非平面环形腔单频激光器、180o混频器以及平衡探测电路，搭建零差相干光调制解调实验平台，得到一些初步的实验结果，锁相环在短时间内相位锁定，锁定状态持续10s左右，并实现100Mbit/s的1010码的调制及相干解调。