第五代(5G)移动通信系统的传输速率能够成千倍增长,其传输时延低于5毫秒,其中异构网络技术和大规模天线技术是提高传输速率、降低传输时延的关键技术。大规模天线可以利用信道状态信息(CSI),使用波束成形技术消除异构网络中小区间干扰,同时异构网络的部署也能够增加网络的覆盖范围,提高小区边缘用户的传输速率。然而随着微基站部署密度增加,微基站基于平面分布的分析模型已经无法准确的分析大规模天线异构网络的性能,针对此问题,本文采用三维随机几何的相关理论,对大规模天线异构网络的基站和用户分布进行建模,并以此为基础,对覆盖概率、系统容量以及中断概率等指标进行研究,具体内容为:首先,大规模天线平面异构网络中,考虑频分双工(FDD)系统获取CSI的有限反馈机制存在量化误差的因素,对多点协作传输模式下行传输链路的系统容量、中断概率指标进行了研究,通过量化误差的统计特性分析以及异构网络微基站分布的统计特性,大规模天线采用迫零波束成形方法,得到了系统容量、中断概率和吞吐量的闭合表达式,仿真结果验证了闭合表达式的正确性,并且获得了大规模天线部署个数、反馈开销以及微基站部署密度与系统容量、中断概率和吞吐量的关系。其次,大规模天线立体异构网络中,考虑用户和基站在三维空间中的分布,利用空间随机分布的统计特性以及大规模天线信道的统计特性,对大规模天线立体异构网络的覆盖概率性能指标进行了分析,得到了覆盖概率的闭合表达式,通过性能分析,得到了影响大规模天线立体异构网络覆盖概率的因素,仿真结果验证了结论的正确性,为超密度异构网络的部署提供了理论参考。