未来无线通信系统要求更高的通信质量和传输速率,这使得人们努力开发更有效的编码、调制和信号处理技术来提高无线通信的质量和频谱效率。空时编码技术将信道编码技术与天线分集技术相结合,大幅度的增加了无线通信系统的容量,为无线传输提供了分集增益和编码增益,并且能够提供远高于传统单天线系统的频带利用率,为解决无线信道的带宽问题提供了一条新的解决途径。本论文在对MIMO系统和分集技术的分析基础上,介绍了天线选择算法。重点研究了逐增天线选择算法,该算法是在接收端的天线中,每次选择一根天线加入系统中,从而获得最大的系统容量增益。当需要选取的天线数较多时,计算量仍然比较大。针对它的缺点,本文给出了一种改进的快速天线选择算法。改进算法通过实时更新优化参数,从而降低计算复杂度,并通过每步处理矩阵的两行的方法,进一步降低了运算时间,提高了计算速度。本论文还重点研究了准正交空时分组码。详细的分析了几种准正交空时分组码的结构及特点,并根据准正交空时分组码的定义以及系统结构,提出了两种新的四天线准正交分组码编码方案,增加了四天线准正交空时分组码的可用码字。在对几种现有的准正交分组码的译码算法分析基础上,提出了准正交空时分组编码的ZF译码算法,实验仿真结果证明ZF译码算法对新的准正交分组码具有较好的检测性能,译码复杂度大大降低,具有一定的理论意义和实用价值。