因其可显著提升系统频谱效率和能量效率、开发空间资源、大幅提升天线增益,大规模天线技术受到广泛关注。然而,作为未来移动通信谱效提升和万物互联的关键,大规模天线技术也面临着严峻的挑战:其一,相比于未来接入终端成千上万倍的增加,集中式大规模天线系统中硬件资源如射频单元、辅助中继、频带等仍然十分有限。如何在系统资源有限的前提下最大化大规模天线系统性能以及如何节约系统反馈资源;其二,未来密集化网络和分布式网络中同时存在多个发射节点,因此小区中每个用户会受到来自多个大规模天线发射机的干扰。信息爆炸的时代也意味着干扰的飞速增加。如何利用预编码技术处理分布式大规模天线发射机系统中的多点干扰;其三,集中式大规模天线毫米波系统会带来高方向性波束和可观的方向性增益,但是方向性波束亦会带来致命问题,即方向性波束极易受用户状态的影响,如运动或被阻挡等。如何保证集中式大规模天线毫米波系统中动态用户的稳定通信成为了制约其发展的关键问题。大规模天线、多点同时传输、毫米波可带来传输效率、传输速率以及谱效的爆炸式增长,但仍需保证数据的稳定、可靠传输。综上,论文从不同场景下的分布式和集中式大规模天线系统出发,以频谱效率、干扰和稳定性为着眼点,聚焦于用户调度技术、预编码技术研究。在大规模天线系统中利用用户调度技术选出信道状态优的用户以提升系统整体性能,利用预编码技术以降低用户间干扰和提升系统稳定性。通过用户调度技术和预编码技术的联合研究以保障分布式和集中式大规模天线系统性能的稳步提升。论文主要贡献包括:1.针对集中式大规模天线基站引起的反馈臃肿问题提出了集中式大规模天线系统下的协作用户调度算法。该算法可在保持系统和速率性能的前提下有效降低上行链路的反馈开销,从而节约频谱资源并提升系统频谱效率。在大规模天线阵基站中,用户数和基站天线数大幅增加,反馈链路负载随之增加,因此基站端为了获取精确信道状态信息,会导致上行链路占用大量带宽资源。该算法通过利用用户间点对点通信在用户端进行信道状态信息的初步筛选,筛选后的用户向基站反馈信道状态信息。基站再根据反馈用户的信道状态信息基于半正交用户调度算法选择最终传输用户集。通过全方位理论分析和多角度性能仿真分析表明,该算法可保持系统和速率性能并大幅降低上行链路的反馈开销。2.针对中继辅助大规模天线系统中传统集中式用户调度算法仅考虑有用信号的问题提出了中继辅助分布式大规模天线系统下的代价用户调度算法。该中继辅助系统利用中继以“缩小”基站与远端用户之间的距离,从而缓解远端用户的信号衰减并提升其信干噪比。考虑到小区中同时存在多个分布式辅助中继,且每个中继在向其用户转发数据时会对其他传输对造成干扰,该代价用户调度算法以对其它传输对造成的干扰强度为代价,从而调度自身信道状态优且对其他传输对干扰小的用户。同时给出了适用于多中继传输的低复杂度等增益传输预编码算法,推导得到了中继辅助大规模天线系统第一跳和第二跳和速率性能上界。论文通过用户调度和预编码技术的联合研究以对抗该系统中的多点干扰。通过仿真结果表明该调度和预编码联合算法可提升中继辅助大规模天线系统的和速率性能。3.针对分布式大规模天线发射机传输模型中传统迭代干扰对齐算法复杂度高的问题分别提出了一对一干扰信道和一对多干扰信道中基于多点联合预编码的干扰对齐技术。因为在分布式网络中同时存在多个发射节点,每个用户会受到来自多个发射机的多点干扰。基于多点干扰的本质—干扰信道,本章提出了低复杂度的干扰对齐算法以降低计算时延和节约计算开销。干扰对齐算法作为一种特殊的分布式预编码算法可有效管理分布式系统中的多点干扰。为了提升不同场景下分布式大规模天线系统多点传输的稳定性,分别给出了一对一以及一对多干扰信道传输模型。不同于传统迭代干扰对齐算法,提出的干扰对齐算法通过固定部分发射机的预编码矩阵以直接对齐来自不同发射机的干扰子空间和直接对齐不同发射机集合的干扰子空间,从而构造预编码矩阵的线性齐次方程以避免迭代地调节每个发射机预编码矩阵和每个接收机合并矩阵的方向。因此,该算法可降低计算复杂度并维持系统的可靠通信。通过复杂度分析和仿真分析表明,相比于传统迭代干扰对齐算法,所提算法可有效管理多点干扰、降低计算复杂度并得到优异和速率性能。4.针对集中式大规模天线毫米波系统中动态用户可靠通信的问题提出了适用于集中式大规模天线毫米波系统动态用户的自适应混合预编码算法。大规模天线毫米波信道的稀疏性以及方向性波束会极大地影响动态用户的波束增益。为了有效弥补因用户状态引起的性能衰减,首先提出了基于信道状态信息的启发式状态检测算法,该算法通过比较不同时隙的信道状态信息以判定用户的状态。其次根据用户的状态,分别提出了波束合并、波束切换和自适应混合预编码算法以补偿因用户动态性引起的性能损失。通过仿真比较表明,该自适应混合预编码算法可有效地缓解波束增益衰减并维持和速率性能,同时延长动态用户的波束训练周期以提升大规模天线毫米波系统稳定性和时频效率。通过本论文的研究,丰富了不同集中式和分布式大规模天线系统下用户调度、预编码技术以及干扰管理技术的理论架构,进一步提升了大规模天线系统的频谱效率和系统稳定性,为更加复杂的大规模天线网络研究提供思路,为多点传输和高频传输工程实践的应用奠定理论基础,为相关传输方案的设计提供理论依据。