毫米波通信技术被认为是未来无线通信系统的关键技术之一而被广泛关注和研究,本学位论文针对毫米波MIMO系统研究了能量效率最优的毫米波混合预编码优化问题,全文研究内容概括如下：第二章研究了最大化毫米波MIMO系统能量效率的混合预编码优化问题。首先,假设接收端能完美处理接收信号,从而将问题简化为最大化发射端能效的混合预编码问题。然后,证明了混合预编码优化问题可以转化为欧氏距离最小化问题,并进一步等价为稀疏信号重构问题。数值结果表明,本章提出的混合预编码算法可以得到近似最优的能效性能,而且在高发射功率区域,能效最优混合预编码算法在能效性能上远远优于和速率最优混合预编码算法。第三章在第二章得到混合预编码矩阵的基础上,研究了MMSE混合接收处理优化问题。首先,证明了混合接收处理优化问题可以等价为带权重稀疏信号重构问题,并提出了基于不同稀疏逼近算法的混合接收处理算法。然后,给出了更加有效的收发端预编码设计顺序。数值结果表明,本章提出的基于不同稀疏逼近算法的接收混合处理算法均可以得到近似最优的系统性能,且基于正交匹配追踪算法的混合接收处理算法性能最好。第四章针对毫米波MIMO干扰系统,研究了平均能量效率最优的混合预编码优化问题。首先,利用变量替换将原多元优化问题等价为单一预编码优化问题,通过求解得到能效最优的单一发送预编码。然后,将混合预编码优化问题等价为稀疏信号重构问题,并提出基于不同的稀疏逼近算法的混合预编码优化算法。数值结果表明,能效最优预编码算法可以得到更好的能效性能,且针对毫米波MIMO干扰系统,基于不同稀疏逼近算法的混合预编码算法都可以得到近似最优的能效性能。第五章针对多小区多用户毫米波MIMO系统,不仅考虑了小区间干扰而且考虑了小区内干扰,研究了小区能效加权和最大的混合预编码优化问题。首先,通过求解小区能效加权和最优的单一预编码优化问题得到能效最优的单一发送预编码。然后,将混合预编码优化问题转化为联合稀疏信号重构问题,并提出基于联合稀疏逼近的混合预编码算法。数值结果表明,能效最优的多小区多用户预编码算法能有效地提高系统的能效值,且基于联合稀疏逼近的混合预编码算法能有效地逼近最优预编码的能效性能。