由于具有频率利用率高、实现容易以及接收机结构简单等优点，正交频分复用(Orthorgonal Frequency Division Multiplexing，OFDM)技术在宽带无线通信领域得到了广泛应用。作为一种多载波调制技术，OFDM通过将频率选择性多径衰落信道转换为平坦衰落信道，可以有效对抗多径衰落效应，因而成为了第四代移动通信系统(4G)颇具竞争力的候选方案。　　 未来无线OFDM通信系统的载波频率更高，用户移动速度更快，载波数量更大，导致信道时变特性更加明显。信道的快速变化导致了OFDM系统子载波间正交性遭到破坏，产生了子载波间干扰(ICD。本论文以无线时变信道下的OFDM系统为研究对象，重点研究了OFDM系统时变信道估计、信道变化引起的ICI分析与消除以及时变信道中的OFDM均衡等技术。主要工作和贡献如下：　　 1)分析了无线衰落信道特性，详细讨论了移动无线信道的各种传播特性，重点是小尺度衰落。同时，也讨论了基于Jakes模型的频率选择性衰落信道的仿真模型。　　 2)针对OFDM系统中的信道估计问题，分析了慢时变信道和快时变信道中OFDM系统传输的基带数学模型。对于慢时变信道(归一化多普勒频移小于0.1)，我们提出了一种基于分段线性模型的迭代信道估计算法。该算法对时变信道进行线性建模，然后通过估计线性模型的斜率和参考点来获得所有的待估信道响应，接着将获得信道响应作为迭代初值送入迭代算法消除接收信号中的ICI，获得无ICI的接收信号来重新估计信道响应。对于快时变信道(归一化多普勒频移大于0.1)，我们提出了一种基于基扩展模型的迭代信道估计算法。与慢时变信道估计方法类似，该方法也是对时变信道建模，然后通过估计模型参数得到信道响应。接着，我们采用一种类似串行干扰消除的方法来迭代消除ICI，重新估计信道响应，获得更为精确地符号估计。为了减少待估系数，我们还提出了一种基于AR模型和Kalman滤波的迭代时变信道估计算法。在该算法中，首先用多项式近似表示一个OFDM符号中的信道复增益，而后构造基于Jakes模型的多项式系数AR模型，并应用Kalman滤波估计多项式系数，从而得到信道矩阵。　　 3)OFDM的一个主要问题就是其对频偏比较敏感。我们重点研究了由于信道时变特性导致的ICI问题，推导了系统的信干比，提出了两种不同的低复杂度ICI迭代消除方法。计算机仿真表明，提出的干扰消除方法均可比传统的OFDM系统获得较大的性能增益，且同时保持低复杂度。　　 4)已有的均衡算法要么是需要矩阵求逆导致复杂度太高，要么是以牺牲性能为代价降低了复杂度。为了在计算复杂度和性能之间取得较好的折中，我们提出了一种低复杂度块判决反馈均衡算法。该算法利用时域LSQR算法和带状矩阵LDLH分解降低了运算复杂度，且性能保持良好。　　 5)针对循环前缀小于信道时延扩展的系统，一个有效的消除符号间干扰的方法是采用时域均衡器。在回顾了3种经典时域均衡技术的基础上，提出了一种盲自适应时域均衡算法。该算法收敛性好，且收敛后性能接近MSSNR最优解。