基于子载波共享的多用户MIMO-OFDM系统可以有效改善无线通信系统的传输效率和频谱利用率等性能。但是由于子载波共享方式会产生共道干扰，在一定程度上限制了系统性能的改进。为了在有限的频域资源内提高系统的传输可靠性和频谱利用率等性能，同时降低计算复杂度，本文针对基于子载波共享的多用户MIMO-OFDM系统上行链路的多用户检测问题进行研究。为了提高多用户检测算法性能的同时降低计算复杂度，本文合理结合块对角化技术和串行干扰消除技术，基于矩阵降维理论的零空间交集定理提出具有低复杂度的空域多用户检测算法——基于迭代串行迫零的串行干扰消除算法(ISZF-SIC)。该算法由迭代串行迫零(ISZF)和串行干扰消除(SIC)两部分构成。ISZF基于零空间交集定理，利用块对角化波束赋形技术，通过迭代串行方法，实现了多用户共道干扰抑制；SIC利用ISZF的结果，恰当选择用户检测顺序，通过基于串行干扰消除的空域多用户检测，实现了各用户信息的分离。该算法充分利用了空域资源，相对单独的基于块对角化的检测算法，提高了检测性能和频谱效率等。同时，所提算法通过巧妙的迭代运算，降低了块对角化算法中奇异值分解次数和奇异值分解矩阵维数，极大降低了计算复杂度。提出的ISZF-SIC算法具备检测性能、频谱利用率高和计算复杂度低等优点，但是由于没有考虑用户检测顺序，而是采用随机的检测顺序，导致当系统信道状况较差时系统性能变差。为了降低非排序产生的差错传播问题，本文在ISZF-SIC算法基础上提出基于信噪比和排序的迭代串行迫零结合串行干扰消除的空域多用户检测算法(order-ISZF-SIC)。该算法的核心是基于SNR排序准则来确定用户的检测顺序，计算用户信噪比的和，选择信噪比和最大的用户作为当前检测的用户。由于根据信道状况确定了合理的用户检测顺序，降低了差错传播概率，从而相对ISZF-SIC算法，order-ISZF-SIC算法进一步改进了系统检测性能和频谱利用率等。同样由于增加了用户排序，相对ISZF-SIC算法，所提排序算法增大了奇异值分解的次数，即增大了计算复杂度。仿真结果表明order-ISZF-SIC算法的性能接近最优穷举排序检测的性能，优于ISZF-SIC算法和基本块对角化算法；其计算复杂度高于ISZF-SIC算法，但是低于基本块对角化算法。