在无线通信系统中，分集技术有效地改善了多径传播对信道产生的影响。通过在接收端和发射端配置多个天线，多入多出(MIMO)技术是空间分集技术的一种典型形式，它在抗多径衰落、提高传输速率和通信质量等方面具有明显的优势。然而由于小型无线移动终端受尺寸、发射功率等因素限制，难以安装多个天线，使得MIMO技术的实际应用受到很大地局限。为此，Sendonaris从中继信道得到启发，提出了一种新的空间分集技术-协作分集，给MIMO技术走向实用开辟了新的途径，具有巨大的应用前景。 本文首先介绍移动无线信道的传播特性和协作分集的基本原理，描述了协作分集目前的研究现状、特点和存在的问题。在此基础上，考虑到OFDM技术能够有效对抗频率选择性衰落，提出了一种基于OFDM的多用户协作通信系统模型，给出了多用户协作的策略，分别推导了放大转发和译码转发模式下系统的输入输出表达式，以及放大转发模式下信道容量表达式，并在典型频率选择性衰落信道环境下对系统进行数值仿真，分析系统的信道容量和误码率性能。研究结果表明：放大转发模式在多个用户协作情况下性能优越，且信号处理简单，是多用户情况下的首选方式。由于非固定系数星座调制方式相比传统的PSK调制有着更大的最小判决距离，本文在差分空时编码协作分集策略基础上，提出了一种改进差分空时编码协作分集方法。在差分编码无信道训练序列的情况下，估计得到信道衰减系数的平方和、信号功率归一化参数，使得非固定系数星座调制(如QAM)能成功应用于分布式差分空时编码协作分集系统中。通过在平坦瑞利衰落信道环境下对系统的数值计算，证实了在慢衰落条件下，QAM调制下的协作通信系统具有优异性能。