随着全球互联网技术的高速发展,用户对无线数据业务的需求日益增加,设计下一代移动通信系统将面临着频谱资源稀缺的现实问题。为了保证无线通信系统能为用户提供更高效、更可靠的数据传输业务,需要进一步挖掘频谱资源和多天线的空间复用能力。毫米波（Millimeter Wave,mmWave）频段依靠拥有大量尚未被开发频谱资源在下一代移动通信系统的相关研究中得到了广泛关注。与此同时,在接入点配置大规模多输入多输系统（Multiple-Input Multiple-Output,MIMO）,可以进一步挖掘多天线的空间复用能力,大幅提高系统总的频谱效率和克服严重的路径损耗。因此毫米波大规模MIMO技术作为5G或后5G（Fifth Generation/B5G）无线通信系统的核心技术之一已经引起学术界与工业界的广泛关注。在5G或后5G毫米波高速移动通信中,超高移动性、低时延、超密集的用户分布以及信道时变,这些会导致多普勒频移、穿透损耗高、频繁切换过程的功耗增加、传输数据率降低以及传统信道估计方案计算复杂度较高。本文将围绕不同时变场景下的毫米波大规模MIMO系统的信道估计技术问题开展研究,针对提升频谱利用率的目标及高效、低功耗的通信需求,采用模型建立、算法设计、性能分析及仿真验证等手段开展了对不同通信场景、不同天线结构、不同移动状态下的信道估计等方面的研究。论文的创新性工作主要包括如下几个方面:（1）针对在快速时变场景中,诸多毫米波信号被完全淹没在噪声中,传统算法无法从时变信道中估计出有用信号问题。尤其移动终端用户数量增多时,需要从低信噪比的时变信道中估计出足够多的路径时,则要对受噪声干扰严重的路径做进一步降噪处理。为此,本文提出了一种基于噪声消除的信道估计算法。该方案首先利用传统基于迭代消除噪声的估计方案初步估计信道中可能存在的路径。然后再利用设定的能量阈值去判断传统方案估计路径的真实性,这样能有效消除噪声干扰。最后根据路径能量提取方案,再利用能量辅助判断法将能量低于门限阈值的信号提取出来,从而进一步实现有效消除噪声干扰,直到估计出足够多的路径数。理论分析和仿真表明该方案能够有效消除噪声,尤其在低信噪比条件下信道估计精度得到有效提升,因此该方案更适用时变条件下毫米波大规模MIMO通信系统。（2）针对传统方案不能将具有特定稀疏结构的毫米波波束空间信道建模为一阶马尔科夫过程,尤其传统方案只适合点对点通信场景、静态或慢时变信道问题。本文首先考虑一个快速时变通信场景,并建立了相应的快速时变信道数学模型。然后利用一个透镜阵列天线将传统信道空间信道转化为波束空间信道,这样能有效减少射频链数目和降低信道维数,从而显著降低计算复杂度和导频开销。进一步,根据基站和用户之间时变物理方向的变化规律和时变信道的稀疏特性,再利用获得的前一个时隙中的波束空间信道来预测下一个时隙中的波束空间信道的先验信息。最后,利用该先验信息和波速空间的稀疏性直接估计出整个时变信道。与传统算法相比,本文所提算法只需要估计出时变信道前三个时隙的信道参数,利用时变信道的先验信息就能估计出整个时变信道。理论分析和仿真表明该方案既能高精度的估计多个快速用户的时变信道信息,还能显著降低计算复杂度。因此,本文所设计方案更适用于5G毫米波车载时变信道的多用户通信系统。（3）针对用户在高速运动时还会引起较大多普勒效应,加剧影响信道估计性能问题。本文给出一种基于天线选择的嵌套采样时变信道估计方案,然后将其拓展到估计多普勒频率问题。首先建立一个高速移动场景下毫米波大规模MIMO系统时变信道模型。其次,由于毫米波混合结构中射频链路数量和天线数量之间差距较大,导致在接收端只能观察到接收信号的低维投影。为此本文利用基于模拟设计的开关网络对天线进行选择,采用嵌套采样策略,形成大孔径的虚拟阵列,该方法能显著降低射频链路数量和系统计算复杂度。最后,基于协方差拟合准则,提出了一种不需要离散角度空间的联合估计多普勒和到达角方案。对比于传统方案,所提方案能完全消除了模型失配效应,并且能显著降低计算复杂度。理论分析和仿真表明,该方案不但能降低射频链路数和功耗,还能显著提高时变信道估计精度,更适用高速时变条件下毫米波通信系统。