卫星通信系统中,为了充分提高频谱效率,往往使功率放大器工作于饱和点附近,这时功放呈现非线性特性,使得传输的信号产生相位旋转和幅度畸变,降低通信系统的传输质量。如果不加以补偿,将对卫星通信系统的性能造成严重的影响。本文研究了基于非线性记忆信道的均衡技术,对接收端失真信号进行理想恢复,具体内容如下:(1)以Volterra级数为信道模型,提出了基于最小均方误差的Turbo均衡技术。严格遵循“独立于对应符号的先验信息”的准则,提取均衡器输出的外信息,与译码器进行多次迭代交互,抵消信道非线性和记忆特性的影响,实现接收端失真信号的恢复。基于此,研究了无先验条件下的接收机和频域迭代均衡算法,保证均衡性能的同时,显著降低均衡算法的复杂度,并对基于软干扰消除-最小均方误差准则的迭代均衡算法进行分析。(2)为了提高信道的利用率,并且参考实际传输时信道特性未知的情况,研究了基于Volterra模型的盲均衡算法。利用信道逆特性的拟合原则结合盲均衡算法分析了传统的Volterra均衡器。考虑到运算复杂度的问题,将单模块更新均衡器权系数的Volterra均衡器输出数学转换为非线性模块与线性模块级联的形式,使时间复杂度由o(N~3)降为o(N~2),有利于信号的实时处理,并通过仿真验证改进的均衡算法的性能。同时,为加快接收端均衡器的收敛速度,研究了指数型变步长均衡算法,并进行仿真验证,结果表明指数型变步长盲均衡算法能明显加快收敛速度。