随着移动通信的发展，频谱资源显得目趋紧张，使得人们努力开发高效的编码、调制以及信号处理技术来提高无线频谱的效率。信息理论的发展指出，通过采用多根发射天线多根接收天线，可以有效地增加无线通信系统的容量，从而提高无线频谱的效率。MIMO无线传输目前有空间复用和空时编码两类。空时编码MIMO能达到最大的分集增益，而空间复用MIMO能实现最大的频率复用增益。空间复用技术在不同的天线上发射的是不同的信息，真正体现了MIMO系统容量提高的本质。OFDM技术支持高速数据传输、并且具有抗多径信道干扰以及频谱利用率高等优点。因此，MIMO和OFDM技术的结合也将成为未来移动通信的核心技术之一。常模算法(CMA)是作为一种重要的盲自适应算法，它不需要训练序列，仅仅通过接收信号的统计特性来获得信道的状态信息，从而有效地恢复出发送信号，可以很好的节约系统的频谱资源，因此在MIMO系统中得到了广泛的研究。 本论文的主要研究工作： 首先介绍了B3G移动通信系统的关键技术以及MIMO-OFDM系统的基本原理，对MIMO-OFDM的一种典型系统(V-BLAST系统)及其译码算法进行了研究并给出了仿真结果。 然后对传统常模算法(CMA)以及最小二乘-常模算法(LSCMA)作了详细的数学分析、收敛性分析。 最后重点研究了最小二乘常模算法(LSCMA)在MIMO系统频域半盲信源分离中的应用，并给出了基于LSCMA的扩展半盲信源分离算法在MIMO-OFDM系统中的性能仿真与结果分析。