由于毫米波频段具有大量连续的空闲频谱资源,可提供更大的带宽实现数据的高速传输,毫米波通信受到业界的广泛关注。然而,毫米波通信信号所处的工作频段很高,具有较大的路径损耗。毫米波具有更短的波长使得在同等面积上集成更多的天线阵元成为可能,因此,毫米波传输有条件采用更大规模天线阵列获取更大的阵列增益,特别是可以通过波束赋形技术生成具有高增益、高方向性的窄波束,以克服严重的路径损耗。考虑到复杂度、成本、功耗等因素,高频段大规模天线阵列系统很难实现全数字波束赋形,而是采用混合模拟数字波束赋形技术实现硬件成本和性能的折衷。本文对毫米波大规模天线阵列波束赋形技术在移动毫米波通信系统的应用展开研究,论文主要的研究工作如下:(1)针对传统穷举波束训练开销较大的问题,进一步研究了基于分层码本的分层波束训练算法。提出了三种具有相同训练开销的分层波束训练算法,以最大化接收信噪比为准则获得最佳收发波束对,对比研究了三种分层波束训练算法的性能差异。(2)现有的多分辨率分层码本设计算法中,训练波束在波束覆盖边缘区域的波束增益值较低。如果上层波束与下层波束在覆盖边缘发生重叠,这将导致分层波束训练过程中的错误传播。为解决这一问题,提出了基于波束角度旋转的非对齐分层码本设计方案,通过调整模拟移相器使下层波束覆盖中心区域对准上层波束覆盖边缘区域,使上层波束训练差错能在下一层波束训练过程中得到修正。通过数值仿真验证了与现有的分层码本设计算法相比,所提方案能够提高波束训练的成功概率,对空间衰落具有较强的鲁棒性。(3)针对移动毫米波通信场景中收发波束存在角度偏差时接收信号质量急剧下降的问题,为实现基站和移动用户之间持续有效的链路连接,提出了一种联合迭代优化均方误差和扩展卡尔曼滤波(Extended Kalman Filtering,EKF)的稳健波束跟踪算法。首先通过EKF算法对波束角度信息进行跟踪,然后基于最小均方误差准则对误差进行平滑处理,以消除EKF线性近似引入的误差,实现对波束发射角和到达角的动态捕获和跟踪。仿真结果表明与传统波束跟踪方案相比,所提方案能有效降低角度跟踪误差,在相同条件下持续有效跟踪时间更长。