在移动通信系统中,MIMO系统利用多个天线进行发送和接收信号能够增加信道容量,并且在使用相同的总功率和带宽的条件下与SISO系统相比它有着极高的频谱利用率。理想条件下,MIMO系统容量随天线数目线性增加。目前,MIMO技术已成为第三代及未来移动通信系统实现高数据速率、高传输质量、高系统容量的关键技术之一。MIMO技术可以应用于实际系统的关键因素是其检测算法性能的好坏和运算复杂度的高低。寻找高性能低复杂度的检测算法一直是MIMO领域的重要研究方向。在未来宽带MIMO无线通信系统中,通常面临频率选择性衰落信道,传统高性能均衡器就会变得异常复杂。OFDM技术是一种高效的多载波调制技术,能够对抗频率选择性衰落、降低码间干扰。由于未来移动通信将使用较宽的无线带宽传输各种信号,从而OFDM技术成为未来移动通讯的关键技术之一。将OFDM技术应用于宽带MIMO系统是提高带宽效率、降低接收机复杂度的重要途径。MIMO技术和OFDM结合通常有两种方法:一种是利用多天线实现空分复用,提高数据比特率;另外一种是利用多天线实现空间分集,提高传输可靠性。优质的信道估计算法及高性能低复杂度的检测算法是MIMO-OFDM系统的研究热点。在OFDM系统中,系统对频偏敏感从而使用相干检测,为了提高系统性能,信道参数估计是一项重要的技术。信道估计器通常分为两类:判决反馈估计器和导频符号辅助估计器。从接收机复杂度和性能要求出发,导频辅助估计器是较为常用的方法。根据使某种误差最小的准则一般可分为最小二乘估计器(LS)、最小均方误差估计器(MMSE)。实际应用中,如何设计一种既有较低的复杂度又有很强的信道跟踪能力的信道估计器,是一个比较困难的问题,尤其是在MIMO-OFDM系统中。本论文第三章从导频序列的设计开始,首先研究了时变频率选择性衰落信道下MIMO-OFDM系统的传统的信道估计技术,并将性能仿真结果进行比较和分析。空时编码是将空间域上的发射分集和时间域上的信道编码相结合的联合编码技术。空时分组码由于其运算简便、译码复杂度低而成为目前最广泛的一种编码。空时分组编码在OFDM中的应用可以采用在空间域-时域编码或者空间域-频域编码两种编码方式进行。根据空时/空频-OFDM系统发送信号的特殊结构,可以采用另外一种方法估计信道频响,本论文第四章对这种信道估计方法性能以及理想信道估计下的空时/空频-OFDM系统误码率性能进行了仿真和研究。在平坦衰落环境中,MIMO系统的检测技术主要包括两类:最优及次最优方案。最大似然检测是最优的检测方法,但是在实际应用尤其在高阶调制和多天线系统中它的复杂度极高。因此近似最大似然误码率性能但是复杂度比它低的检测方案成为研究热点,比如球形译码和次最优检测方法。本论文第五章研究了时变频率选择性衰落信道下VBLAST-OFDM系统中的各种检测技术,首先研究了最大似然检测及球形译码,接着从迫零(ZF)检测和最小均方(MMSE)检测出发,研究了串行干扰消除检测(SIC)和排序的串行干扰消除检测(OSIC),最后将仿真得到的性能加以对比及分析。