随着无线移动通信设备的数量呈现快速增长的趋势,人们对无线移动通信系统具备更高速率的需求也逐步提高。考虑到大规模MIMO技术能有效地提升了移动通信系统的数组收益和空间分辨率,使得数量众多的用户在通信系统存在强用户干扰时仍能保持较高的鲁棒性,从而可使系统的传输速率和容量得到数量级的提升。但当系统中基站天线数量和用户数量的逐步增加时,系统中的多种干扰和能耗也将增大,对系统性能产生了一定的负面影响。如何在减小干扰和能耗的基础上进一步提高系统容量成为人们的研究重点。为此,本文在深入分析了现有的几种大规模MIMO系统模型的基础上,提出了相应的改进方案来提高系统容量。(1)考虑了大规模MIMO技术中资源分配策略,在基于RZF预编码方案的基础上提出了新的全导频分配方案,通过将有限的正交导频信号分配给小区用户来对RZF预编码矩阵中的信道向量进行优化,得到优化后的全导频正则化预编码矩阵。另外,在综合考虑了基站天线数、用户数以及导频重用因子的基础上,优化了它们的配置关系,从而用较少的用户信息和更高的导频重用因子来抑制更多的小区间干扰,实验结果表明,所提改进的全导频策略可以有效地提升了该系统的总容量。(2)提出了预编码和信号检测联合设计方案,在单个小区大规模MIMO系统中,通过在基站端采用RZF预编码对接收的信号进行预处理以平衡用户之间干扰和噪声干扰的影响,继而在接收端运用检测性能优异的MMSE-SIC算法来进一步减轻信号中的干扰,从而达到提升系统容量的目的。实验结果表明,文中所提RZF预编码与MMSE-SIC检测的相结合的改进算法在用户间干扰较大时具有较好的适用性。(3)提出了莱斯信道下大规模MIMO系统混合ADC的RVQ量化方案,考虑在FDD的工作模式下,在基站端采用高分辨率ADC和低分辨率ADC混合的接收方案处理信号,使接收的导频信号和用户信号具有较高的转换精度,系统对导频序列信号进行信道估计后,再对CSI进行RVQ处理,以此减小系统的反馈开销,最后运用MMSE信号检测技术减轻由量化误差引起的用户之间干扰,从而达到降低能耗并减小系统性能损失的目的。