多输入多输出(MIM O)技术以其提供的丰富的空间自由度成为无线通信领域的研究热点。目前的基站天线结构无法实现对垂直维空间自由度的利用。有源天线系统(AAS)的发展为上述问题的解决提供了基础。小体积、可以独立控制的AAS的引入一方面使基站能在三维空间中控制信号的空间分布特性,另一方面将支持天线阵列向二维方向发展,推动大规模MIMO技术的发展,大幅提升系统性能。准确有效的信道模型是进行MIMO系统仿真和技术评估的基础,已有的信道模型大多都基于二维平面,其统计特性没有考虑垂直方向分量,不符合实际情况。因此,为了更准确地模拟实际MIMO信道,充分利用MIMO信道的垂直维自由度并发挥大规模MIMO技术的优势,本文主要从以下三个方面进行了研究：1、二维信道和三维信道的建模。目前的信道建模大都在二维平面内进行,不能全面反映MIMO信道真实状况。鉴于此,本文进行了基于散射体模型的三维信道建模。通过仿真证明,三维信道由于增加了垂直维角度,引入了垂直维的相关性,使得其信道容量要小于二维信道。2、二维阵列天线的建模。大规模MIMO的实现需要天线阵列从一维向二维发展,／AS为其提供了现实基础。本文提出了一种二维阵列的相关性建模方法并结合迫零波束赋形进行了仿真。仿真结果表明,不同天线配置、不同信道下的性能不同,并证明可通过增加天线数目以及调整阵元间距的方式提高系统容量。3、大规模MIMO场景下的ZFBF算法的研究。为了更充分地利用MIMO的空间复用增益,提高系统容量和能量效率,本文对单用户场景下的大规模MIMO系统性能进行了仿真分析,并介绍了一种分布式场景下的低复杂度的ZFBF算法,该算法能大幅降低运算复杂度,有效提升系统性能。