随着多媒体业务的迅猛发展,人们对无线高速率数据通信的需求日益增加,为了应对未来爆炸式的数据增长趋势,第五代移动通信(5G)应运而生。作为5G的关键技术之一,大规模MIMO技术可以极大程度地提高系统频谱效率而备受关注。而毫米波凭借大量可用的频谱资源和易于集成超大规模天线阵列的特点也逐渐成为近几年的研究热点。因此,本文针对毫米波大规模MIMO系统及其相关技术展开研究。在毫米波大规模MIMO系统中,混合波束赋形能够将大规模MIMO技术与毫米波结合起来,从而形成高增益的定向窄波束来克服毫米波高频段上较大路劲损耗带来的影响。与传统全数字域预编码技术不同,混合波束赋形技术同时包含了模拟域和数字域预编码两部分,且通过将信号预处理的部分工作转移到模拟域基带中能够大大降低系统实现的复杂度。本文首先在基于等效信道的混合波束赋形技术上重点研究模拟域波束的选择问题。另一方面,由于基站端射频链路数目的限制以及用户间干扰的影响,使得基站无法在同一时频资源上为所有候选用户提供服务,故采用一个合理的调度技术至关重要。毫米波MIMO系统中现有的用户调度算法大多数都是在单小区多用户且每个用户均配置有单根天线的场景下讨论的。然而在实际的毫米波MIMO系统中,小区数目远大于1且用户往往配置有多根天线。因此,本文将进一步研究毫米波多小区多用户且基站和用户均配置有多根天线更为复杂场景下的用户调度问题。本文的主要工作如下:1.在基于等效信道思想的混合波束赋形技术上,对毫米波大规模MIMO系统中的模拟域波束选择问题进行了研究。首先介绍了两种基于穷举搜寻机制下的波束选择算法,并针对两种算法的不足,提出了一种新的混合式波束选择算法。该算法允许用户根据最高接收功率的大小智能化地选用合适的波束选择准则。仿真结果表明,通过采用合适的RSRP阈值,新的混合式波束选择算法可以在波束选择时延和系统SINR性能之间取得一个良好折中。2.进一步针对穷举搜寻算法搜寻复杂度较高的问题,提出了一种低复杂度的阈值式搜寻算法。该算法在穷举波束搜寻算法的基础上引入性能阈值的概念,通过将每个模拟域波束对上的性能值与性能阈值大小作比较从而实现波束对的选择问题。仿真结果表明,阈值式搜寻算法要明显优于穷举搜寻算法,且通过设定一个最优的性能阈值,阈值式搜寻算法可以在保障系统性能的同时,极大幅度地降低搜寻复杂度。3.在毫米波多小区多用户且基站和用户均配置有多根天线的复杂场景下对用度调度问题进行了研究。分别在两种5G场景的上下行链路模式下,对三种调度算法进行了仿真对比。仿真结果表明,两种场景的下行链路模式下用户频谱效率要明显优于上行链路模式。每种链路模式下,比例公平单用户算法要优于随机波束单用户调度算法,但劣于比例公平性多用户调度算法。并且随着调度用户数的增多,比例公平性多用户调度算法性能越好,但增速逐渐放缓。