大规模多输入多输出（MIMO,Multile Input Multiple Output）技术通过在基站配置大量天线来获取充分的空间自由度,可显著提高频谱效率和传输可靠性,是5G通信系统的关键技术之一。相比于传统的均匀线阵（ULA,Uniform Linear Array）天线,三维大规模MIMO系统在基站端配置均匀平面阵列（UPA,Uniform Planar Array）,不仅可以减小基站空间,还可以利用垂直方向的空间自由度进一步提升系统性能,是大规模MIMO研究的重点之一。然而,将三维大规模MIMO技术应用到实际系统中还存在着诸多问题,如广播信道中公共信号的全小区覆盖,上行传输中的导频污染及上下行信道估计,下行传输中的用户间干扰以及用户调度等问题。本文面向三维大规模MIMO系统,针对不同信号的特点及要求,重点研究相应的资源分配问题。具体工作如下:1、针对单天线及传统MIMO场景下广播方案无法直接应用于三维大规模MIMO系统的问题,设计了适用于三维大规模MIMO系统的全向传输方案。根据三维空间信道特征,从最大化可达速率、角度域等功率覆盖以及充分利用天线功放三个方面出发,本文给出了实现全向传输的设计要求。在此基础上,提出了两种全向空时分组码（STBC,Space-Time Block Code）方案,即基于 Zadoff-Chu（ZC）序列的离散全向STBC方案,和基于二维互补正交码字的连续全向STBC方案。其中,离散全向STBC方案可以实现有限方向上的等功率接收,其等功率接收的方向数量等同于天线数量,因此需要天线数目足够多才可实现近似的全向传输;而连续全向STBC方案可以在一个STBC传输时间内实现所有方向接收功率之和相等,且对天线数量的多少没有要求。仿真结果表明,两种方案都可以实现满分集增益,但连续全向STBC方案的全向性能更好。2、针对现有TDD模式下导频污染严重、FDD模式下信道反馈开销大的问题,对三维大规模MIMO系统下的上行导频分配及信道估计问题展开研究。首先,针对TDD模式,提出了基于地理位置的软导频复用方案,利用不同距离下垂直信道特征的差异,将用户划分为中心用户和边缘用户。对相邻小区的边缘用户分配正交的导频资源,以抑制边缘用户的导频污染;对所有小区的中心用户分配相同的导频资源,并通过改进的信道估计方案降低来自其他小区的干扰。在此基础上,为了进一步降低导频开销,提出了基于三维空间相关性的导频复用方案,对中心用户选择小区内空间相关性小的用户复用导频,对于边缘用户则进行多小区协作导频复用,有效降低导频污染,提升信道估计精度。此外,对FDD模式下的下行信道估计进行研究,利用上下行信道间的部分互易性,从上行信道统计信息中提取互易特征即信道中的主要波束方向,并在这些波束方向上发送导频信息,用户基于导频信息估计并反馈等效信道矩阵,从而使基站以较小的反馈与导频开销获取完整的下行信道状态信息。3、针对现有多小区用户调度和预编码方案复杂度高、导频及反馈开销大的问题,对三维大规模MIMO系统下的低复杂度低开销的用户调度及预编码技术展开研究。首先,利用多小区边缘用户调度思想,分别提出了基于聚类算法、信漏噪比以及地理位置的边缘用户调度策略,通过将具有相似信道信息的边缘用户分配到同一小区,或将用户分配到对其它用户干扰最小的基站,实现边缘用户的干扰抑制。在此基础上,对三维信道下的下行预编码进行研究,提出了基于联合空分复用的多层预编码方案,通过每层预编码分别实现小区间干扰消除,用户分组,组内干扰消除等目的。同时,通过预编码对信道进行降维操作,从而降低反馈开销和下行导频开销。