大规模MIMO是第五代移动通信的关键技术之一,通过在发射端和接收端部署大量天线,极大提升了系统的性能和容量。由于系统中天线数目很多,传统数字波束成形技术由于硬件成本等原因并不适用于大规模MIMO系统,而低成本模拟波束成形又不能满足性能要求,因此将模拟波束成形和数字波束成形级联起来,构成的一种数字-模拟混合波束成形技术成为当前研究的热点问题之一。混合波束成形技术中,根据每条射频链路是与所有天线连接,还是仅与部分天线连接,分为全连接结构和部分连接结构。针对全连接结构的大规模MIMO系统,单用户点对点通信的下行链路场景,本文首先介绍了广泛应用的基于正交匹配追踪算法的波束成形方法和一种基于SVD分解的能够取得最接近理想数字波束成形矩阵的波束成形方法。在此基础上,基于最小化残差矩阵和交替迭代思想,提出了一种快速收敛的混合波束成形算法。该算法将发射端和接收端分开考虑,在设计模拟域波束成形矩阵列向量时,将残差矩阵的奇异向量模值归一化,作为模拟域波束赋形向量的候选集合,然后根据奇异值对模拟域波束成形向量进行更新。仿真结果表明,在毫米波信道下,提出的算法与正交匹配追踪算法相比,具有更好的频谱效率;与基于SVD分解的逐列更新算法相比,频谱效率性能相当,但是它需要进行奇异值分解的次数更少,复杂度更低。针对部分连接结构的大规模MIMO系统,单用户点对点通信的下行链路场景,本文提出了一种改进的部分连接结构,并基于该结构提出了一种模拟域参数非恒模的混合波束成形设计方案。传统模拟波束成形/合并中,每根天线由一个移相器来实现,由于模拟波束成形求解过程受恒模约束,导致优化问题是一个非凸问题,从而限制了波束成形的性能。针对这一问题,本文提出了改进的部分连接结构,为每根发射天线配备两个并联的移相器,模拟域波束成形参数通过两个单位向量相加实现。在毫米波信道下的计算机仿真结果验证了提出方案的性能提升。