连续相位调制(Continuous Phase Modulation, CPM)由于其相位连续和恒包络的特性，可以使用低成本的非线性功率放大器，且在放大器处产生的能量消耗小，从而解决协同分集系统中移动终端的成本和能量受限问题，因而具有很大的实用价值。本文针对应用CPM的协同通信系统，研究了可表征系统容量下界的对称信息率，以最大化系统遍历容量为目标，分析了系统的最优功率分配问题。此外，本文还研究了信噪比(Signal-to-Noise Ratio, SNR)估计误差和信道估计误差对系统容量的影响。基于分析结果，作者提出了一种新颖、稳健的迭代SNR估计算法。首先，理论分析和推导了协同CPM系统采用BCJR算法解调时的系统容量，并给出了数值计算和仿真结果，理论分析和仿真结果证明，协同CPM系统与单入单出(Single-Input-Single-Output, SISO) CPM系统相比，能获得更大的容量和更低的中断概率。其次，以遍历容量最大化为目标，对系统的最优功率分配问题进行了研究，通过理论推导和分析，得到了系统的最优功率分配方案。当源节点到中继节点距离较小时，功率分配对系统容量影响较小；当源节点到中继节点距离较大时，源节点需要的功率较大，中继节点需要的功率较小。最优功率分配系统与等功率分配系统相比，能获得更大的系统容量。然后，分析了SNR估计误差和信道估计误差对协同CPM系统容量的影响。理论分析和仿真结果证明，系统BER性能对SNR估计误差不敏感，系统容量对SNR估计误差较敏感；存在SNR估计误差的情况下，系统容量随SNR的增大收敛到最大值。随SNR增加，信道估计误差成为系统BER的主要影响因子，信道估计误差带来的BER性能损失更加明显；且存在信道估计误差的情况下，系统容量无法随SNR的增大达到最大值。最后，在协同CPM系统中提出了一种基于Rimoldi分解的SNR迭代估计算法。基于Rimoldi分解模型将CPM信号分解为连续相位编码器和无记忆调制器两个部分，进行迭代SNR估计，以此获得更准确的SNR进而获得性能增益。理论分析和仿真证明，迭代更新SNR估计的系统与无迭代更新SNR的系统相比，在误码率10-2处性能有5dB的增益，且接近理想信道信息条件下的系统性能。同时，本文还研究了帧长对迭代SNR估计性能的影响，并得到了优化的帧长。