大规模MIMO系统基站配置数十根甚至上百根天线,可以同时支持多个用户接入,能够提供多用户分集增益和空间复用增益,提高传输的可靠性和有效性。但是,系统达到最大容量所能同时服务的用户数受基站天线数的限制,且无限地增加基站天线数会导致系统所需射频链路剧增,使得系统实现的成本增加,因此研究大规模MIMO系统中用户分组与天线选择技术有着重要的意义。本文首先分别介绍了大规模MIMO以及波束成形的的基本概念、系统模型,以及常见的波束成形技术,然后分析了用户分组和天线选择技术的研究现状。综合考虑系统的硬件复杂度与系统容量,提出了基于用户分组与天线选择的大规模MIMO系统波束成形算法。在该算法中,用户分组处理是通过信道子空间正交投影与有效信道增益的概念,删除最小的有效信道增益,将迭代过程中波束成形矩阵的求逆进行优化,从而实现用户分组选择。在天线选择方面,分为两类,一是从大量的天线中选择一组相对性能较优的天线组合,将有限的RF链路配置给该组合。二是将发射的每个数据信号分配到系统中的所有天线上,为发送的每一个数据信号选择其中的个性能较优的天线进行信号传输,即-正则化天线选择。基于用户分组及天线选择的迫零波束成形算法以较小的性能损失,换取系统硬件复杂度的大幅度降低,节约了大规模MIMO系统射频电路的成本与功耗,实现系统性能与硬件复杂度的折中。此外,针对大规模MIMO系统中基于用户分组与天线选择算法方案中迫零波束成形初始化涉及矩阵求逆所带来的高计算复杂度的问题,介绍了基于Neumann级数展开、基于截断多项式展开以及基于对称连续超松弛的逆矩阵化简方案,并以系统总速率为性能指标进行对比分析,验证在将原始变量进行扩展的情况下,基于对称连续超松弛逆矩阵化简算法在大规模MIMO系统中的可行性。经理论分析及仿真结果证明,本文所分析的联合用户分组及天线选择算法能够在低计算复杂度的情况下,以相对较小的系统容量损失换取系统硬件复杂度大幅度降低,具有较高的实际应用价值。