大规模多输入多输出（Massive Multiple Input Multiple Output,mMIMO）技术是第五代移动通信系统（5th Generation Wireless Systems,5G）的关键技术之一,通过在发送端或接收端部署大规模天线阵列可以增加传输信道的空间自由度,从而提高系统性能。根据系统的工作频段,可以将mMIMO系统分为传统微波（6GHz以下,sub-6 GHz）mMIMO 系统和毫米波（Millimeter Wave,MMW）mMIMO 系统。mMIMO系统获得高系统性能增益的重要前提是发送端已知全部或部分信道状态信息。然而,mMIMO系统信道状态信息的估计或反馈会产生巨大的频谱资源开销。因此,信道状态信息是获得大规模MIMO系统性能增益的关键。工作在时分双工（Time Division Duplexing,TDD）模式的mMIMO系统可以借助信道互易性获取信道状态信息,工作在频分双工（Frequency Division Duplexing,FDD）模式的mMIMO系统则需要通过信道反馈获取信道状态信息。MMW mMIMO系统则通过波束追踪技术获得信道信息。本论文选题来源于企业科研合作项目5G无线空口关键技术研究》,主要对大规模MIMO系统的信道状态信息反馈开销大的问题进行了研究。对于sub-6 GHzmMIMO系统,本文研究信道状态信息有限反馈技术,提出 了联合 K-L 变换（Karhunen-Loeve Transform,KLT）和球帽量化的信道反馈机制;对于MMW mMIMO系统则研究波束追踪技术,提出了基于无迹卡尔曼滤波的波束追踪算法。本文的工作内容如下:1)对mMIMO系统进行了概述,并从mMIMO系统面临的技术挑战出发,介绍了 mMIMO的部分关键技术。根据mMIMO系统的工作频段将mMIMO系统分为sub-6 GHz mMIMO和MMW mMIMO系统。对于sub-6GHz FDD mMIMO系统,本文讨论了信道状态信息的有限反馈技术。对于MMW mMIMO系统则讨论了有限反馈技术和波束追踪技术。2)在sub-6 GHz mMIMO系统中针对信道状态信息反馈开销大的问题,提出一种联合KLT和球帽量化的有限反馈机制。所提反馈机制首先将高维信道状态信息进行去空间相关性,从而实现将高维信道状态信息向量进行降维的目的。再利用信道的时间相关性系数产生球帽量化码本,从而在降低CSI反馈开销的同时可以提高信道状态信息的量化精度。仿真结果表明本文所提的信道反馈机制相比于只考虑信道的时间相关性或只考虑信道的空间相关性的有限反馈方案可以获得更高的系统和速率性能。3)在MMW mMIMO系统中针对移动场景中的波束追踪问题,提出了基于无迹卡尔曼滤波的波束追踪算法。MMW mMIMO波束赋形系统是一个非线性系统,且当传输基站快速移动时,系统的非线性程度较强。因此,本文将无迹卡尔曼滤波算法引入到对移动毫米波系统波束角度的估计过程中,以提高波束追踪的精度。首先基于收发端的位置信息获取用于测量过程的粗波束角度进行粗波束赋形,结合粗波束赋形和系统的状态转移方程计算相应的滤波增益系数,从而获得最优波束角度估计值,完成当前时刻的波束追踪过程。仿真结果表明,基于无迹卡尔曼滤波的波束追踪算法相比于传统的基于一阶泰勒展开的波束追踪算法,例如扩展卡尔曼滤波算法,可以将波束角度估计误差降到更低水平。