无线信道具有时变多径衰落效应,信号经过信道传输后会造成幅相失真。针对信道失真特性,在发射端设计预失真网络,即设计一个FIR滤波器弥补信道的衰落特性,以此校正信号的幅相失真。随着数字信号处理技术的发展,FIR滤波器的应用越来越广泛,其设计问题一直是研究者们关注和研究的内容。现有的设计FIR滤波器的方法有很多,而数学优化是其中一大类方法。数学优化是指采用一定的约束方式,在基于一定准则下求解目标函数的最优解。本文采用了同时对频率响应误差和相位响应误差进行约束的方式来设计FIR滤波器,这种约束方式能得到一个凸的可行域,且能独立控制幅度误差和相位误差,仿真实验证明这种约束方式是有效的。传统的FIR滤波器的数学优化方法(如线性规划方法、半无限规划法等)只能求解特定形式的问题,或者求解效率较低,尤其是对于复系数滤波器设计问题,通用性较差。基于此,本文重点研究了半定规划(semi-definite programming,SDP)方法设计FIR滤波器。该方法相较于其它优化方法能够精确求解一大类的凸优化问题,而且现有一些专门用于求解SDP问题的软件,这些软件不仅能实现较高的执行效率还能获得很好的求解结果。仿真实验表明SDP方法的有效性和灵活性。采用SDP方法设计的预失真FIR滤波器来校正多径时变信道对输入宽带信号造成的幅相失真,通过仿真实验表明本文研究的方法是可行有效的。