近年来,随着移动互联网的高速发展,无线数据业务流量呈指数式爆炸增长,人们对于更高质量的通信服务诉求也变得愈发强烈。大规模MIMO(Multi-Input Multi-Output,MIMO)作为第五代移动通信(5G)关键技术之一,能够大幅提升频谱效率和系统容量,在未来通信系统中势必将会扮演着重要角色。相比于传统MIMO系统,大规模MIMO系统在基站端配备有大量天线,能够基于相同时频资源服务更多的用户。然而,大规模天线阵列需要连接更多的射频链路,相比于廉价的天线单元,射频链路是通信系统中价格较为昂贵的组件。因此,大规模MIMO系统具有巨大容量增益的同时,所付出的代价是射频链路数目增加带来的高昂成本开销,以及基站端高复杂度的大型天线阵列完全收发机的设计。天线选择技术则是解决上述问题的有效方法,在降低系统开销和复杂度的同时,能够保证系统性能满足通信服务需求指标。鉴于此,本文将着重探讨大规模MIMO系统中的天线选择技术,提出了一种改进型基于2-范数的天线选择方案,并从离散集合选择函数中的亚模函数这一角度研究了天线选择问题,建立了大规模MIMO天线选择亚模函数优化模型,并根据亚模性质的“边际收益递减效应”设计了具有理论性能保证的基于容量增量最大化贪心选择算法及其对偶算法,同时给出了相应的理论分析。本文所包含的主要内容及工作如下:1、对大规模MIMO系统模型做了简介,对系统容量进行讨论分析;介绍了亚模函数的理论基础,主要包括亚模函数形式化定义、研究来源以及亚模函数的应用等内容。2、建立了大规模MIMO系统上行链路天线选择问题优化模型,提出了一种改进型基于2-范数的天线选择方案。此方案能够根据不同的信道传输条件,借助于选择系数动态地调整基站端实际投入使用的天线数目。该方案能够在减少天线数目的同时以低复杂度的运算操作,保证需要的系统信道容量。3、通过对天线选择问题的深入分析,探索其离散集合选择问题的本质,并将离散集合函数中的亚模函数引入到天线选择问题当中,设计大规模MIMO天线选择方案。首先将亚模函数与天线选择问题相结合,分析了问题模型所包含的亚模性质;其次建立了带有一致拟阵约束的大规模MIMO系统天线选择亚模函数优化模型;根据“边际收益递减效应”性质提出了基于容量增量最大化的贪心选择算法近似求解该优化模型;最后给出了该优化模型的对偶问题,以及相应的对偶容量增量最大化贪心选择算法。4、对本文所研究基于亚模函数天线选择模型贪心求解算法的理论分析表明:贪心选择算法求得的次优解与原问题最优解之间的近似比具有最差情况下的理论保证。换句话说,该算法求得的次优解可看作本文所提大规模MIMO天线选择亚模函数优化模型最优解的下界。