当前无线通信的发展正处于最为关键的时期,人们持续增长的需求与有限频谱资源之间的矛盾成为研究高频谱利用率技术的动力和挑战。众多新技术中,基于多天线的多入多出无线通信结构已显示出无尽的潜力,成为充分利用空间资源的必然途径。本论文首先介绍了多入多出无线通信的研究背景和基本概念,并与其他新技术做比较以突出研究的必要性和必然性。然后,详细阐述了在多入多出无线通信领域正受到关注的和仍有待解决的基本问题,指出了本文的研究方向。对多入多出无线衰落信道的研究是本文的起点和主体。本文从考虑接收端周围存在非均匀散射体分布的实际电波传播环境入手,通过对其他多入多出信道模型的综述和对比,提出了一种基于确定性信道建模方法的频率选择性多入多出衰落信道模型,在其中引入了“von Mises”概率密度函数,以描述非均匀散射体导致的非均匀本地来波方向分布。然后,从分析接收端空时互相关统计特性入手,对所提信道模型予以理论证明和数值分析。利用所提建模方法,提出了一种低复杂度的通用信道仿真结构,以分别适用发端天线间距不同的情形。最后,评估了所提模型的空时衰落特征及衰落特征对多入多出信道容量的影响,揭示了非均匀来波方向分布导致多入多出信道容量下降这一现象的本质。在本文第二部分的开始,在对多入多出无线通信研究的热点——空时编码技术进行综述的基础上,分析了多入多出正交频分复用系统的空时频分组编码的成对错误概率性能。并通过定性的分析指出,多径信道的功率延迟分布是影响空时频编码成对错误概率上界的重要因素。随后,在ITU-R M.1225建议的车载信道“A”和车载信道“B”下进行的数值仿真,比较了不同发射天线数目时的空时频编码性能,验证了所提空时频分组码的性能主要受功率延迟分布和衰落速率影响。并给出了快衰落信道中设计空时频分组码的一些考虑。由于在复杂的时变无线电波传播环境中,获得精确的信道估值一直是一个较为困难的研究课题。这一问题在多入多出无线通信中尤为突出。因此,本文的第三部分在综述差分空时码研究现状的基础上,提出了适合正交幅度调制信<WP=9>号集合的一种差分空时频编码方法。同时,在多种信道环境中,还对在正交频分复用系统应用酉差分空时码的性能进行了误码率性能仿真研究。通过大量细致的比较研究,系统地讨论了正交频分复用系统系统中差分空时码的性能和设计方法。在本文的最后,针对无线衰落信道中空间谱估计问题,提出了利用一种特殊的多波束天线实现相干信号空间谱估计的新方法,并在单用户和多用户环境中进行了数值仿真验证,研究结果显示了所提算法在衰落信道中的稳健性。与其他算法的定量和定性比较结果表明,由于在多波束的波束空间内进行子空间平滑,该算法能以较低的复杂度实现无线衰落信道空间特征估计。