随着无线多媒体业务、无线网络和移动计算设备的发展，近几年宽带无线传输技术的需求和应用迅速增长。能够支持更高数据传输速率的新一代移动通信系统(Beyond 3G/4G)已经成为研究的热点。正交频分复用(OFDM，Orthogonal Frequency Division Multiplexing)技术结合多天线(MIMO，Multiple-Input Multiple-Output)信号处理技术作为一种有效对抗多径衰落的手段，能有效提高数据通信速率，成为下一代无线通信的重要解决方案之一。 但是，OFDM系统对于子载波的频率偏差很敏感，当子载波间不再正交时，导致载波频谱泄漏，产生载波间干扰ICI(inter-carrier interference)，降低系统性能。OFDM系统中结合MIMO技术之后，同时引入了多数据流干扰(MSI)，载波上的干扰不只是来自同一天线上相邻载波，还来自别的天线上的载波，所以对于MIMO-OFDM系统，ICI和MSI要综合考虑。本文以B3G/4G通信系统研究为背景，深入研究了MIMO-OFDM移动通信系统中的ICI消除算法。 目前研究ICI消除的方法主要分为：1）通过降低系统对频率偏差的敏感度来抑制ICI ；2)基于均衡技术的ICI消除，具体方法有频域均衡，时域滤波，ICI自消除，时域加窗等。本文在研究了这些方法的基础上，提出了相应的改进方案，并给出仿真结果和分析。 ICI自消除是通过对发送信号进行预编码，将数据符号以不同的权重系数映射到相邻的子载波上，可以减小ICI干扰系数，提高系统性能，但是降低了频谱利用率。本文提出了通过差分编码的方式对发送信号进行预编码，而不影响系统频带利用率。时域加窗的方法是通过在接收机上对时域信号进行处理，减少信号频谱密度函数中旁瓣的能量，降低系统对频率偏差的敏感度。从另一个角度出发，把加窗模块放在发送机，同样可以把信号能量集中在主瓣内，并减少了由时变信道中多普勒扩展带来的ICI。 本文重点研究的是基于均衡(equalization)技术的ICI消除。研究的内容包括无线信道的分析和建模，多径时变信道估计，频域均衡和时域滤波。均衡技术包括线性均衡（ZF和MMSE），非线性的均衡（判决反馈均衡DFE）。文献[16]提出了一种MIMO-OFDM系统时域滤波方法，可以有效的消除ICI。本文在此基础上提出了结合MIMO检测和迭代的方法，减少了原方法中导频符号的使用，提高了系统频带利用率，降低系统在高速移动环境下的误码率。