由于射频功率放大器(Power Amplifier,PA)固有的非线性特性,非恒定包络信号在经过PA的功率放大后将会发生明显的非线性失真,为了有效补偿PA的非线性效应,数字预失真技术(Digital Predistortion,DPD)以其灵活度高、精度高和成本低的优势已经成为目前无线通信系统中不可或缺的模块之一。而伴随着无线通信系统向第五代移动通信技术的不断演进,无线通信系统逐步呈现出的大带宽、小型化和高效率的特点,这就对传统的数字预失真技术在5G通信系统中的应用带来了新的挑战:一方面微基站的应用对通信系统的成本和功耗有了更为严格的限制,相应的如何有效降低DPD模块的功耗和成本成为当下需要解决的问题;另一方面,大带宽高峰均比信号激励下的射频功放呈现出更加复杂的非线性特性,传统的多项式模型各个基函数之间存在较大相关度的缺点,导致在大带宽场景下的建模精度有限,因此亟需提出新型的更加灵活的DPD模型。为此本文重点讨论了如何设计出兼具高性能、低复杂度和低成本的数字预失真模块。传统的DPD模块在每一个DPD反馈通道上都需要两个高精度、高分辨率的数模转换器(Analog-to-Digital Converter,ADC)完成对功放输出信号的采集,而为了有效采集功放输出信号的带外信息,ADC的采样速率应不低于输入信号带宽的3到5倍,这将极大增加宽带应用场景下DPD模块的功耗和成本。本文首先考虑降低反馈通道上ADC的数目,从信号的统计特性出发,推导设计出基于闭环单路观测下的DPD提参结构,随后将闭环单路观测DPD架构与单比特观测技术结合,提出一种基于闭环结构的1比特单路观测DPD系统。由于反馈回路上只需要一个单比特比较器就可以实现对反馈信号的采集,从而可以较大程度上改善DPD模块的复杂度。在完成基于闭环结构的单比特单路观测DPD提参结构设计后,考虑到开环DPD结构相对于闭环DPD结构具有结构简单、收敛速度较快的优势,为此本文进一步提出一种基于开环结构的单路观测DPD架构。相比于已有的开环间接学习结构,新提出的开环DPD提参架构不仅有效降低了 DPD模块的复杂度,而且具有抗测量噪声的优势。值得注意的是当系统中存在较为明显的IQ非平衡效应时,传统的IQ非平衡和功放非线性联合矫正的方式将不再适用于本文提出的基于单路观测的DPD提参结构,为此本文讨论了基于单路观测DPD系统的IQ非平衡问题,并提出一种采用时分方式矫正系统IQ非平衡的方案。神经网络以其建模灵活、拟合精度高的优势,逐渐被证明是一种行之有效的功放非线性建模手段,本文提出一种基于矢量分解的神经网络DPD模型设计方案。本文首先分析了目前广泛采用的将输入和输出均拆分为实部和虚部构建神经网络DPD模型方法的局限性,这种拆分方式不符合功率放大器的物理非线性行为机制,从而导致建模精度受限。为此本文首先从功放实际的非线性行为机制出发,设计出更加符合功放物理机制的子神经网络,随后将子神经网络扩展成为大网络,并进行一系列的网络优化设计,设计出基于矢量分解的神经网络数字预失真模型。由于本文提出的基于矢量分解的神经网络模型相比于已有的将输入输出拆分为实部和虚部构建的神经网络模型更加符合功放的非线性物理机制,所以可以以较低的计算复杂度实现更优的线性化性能。