本文首先对MIMO系统空间复用方式下的传统线性检测算法作以分析和验证，虽然传统检测的解码复杂度相对最大似然要低很多，但是其性能上较大的差距使其在高质量的通信中应用困难。为此必须要寻找性能更接近最大似然的检测方法，球形译码算法(sphere decoding algorithm，SDA)便是其中的一类。　　 本文首先对基于ML检测的球形译码算法做了详细的介绍，并介绍了两种降低复杂度的球形译码算法，其中着重介绍了k-bestSDA；其次，通过仿真对k-bestSDA与排序ZF-QR算法的性能进行了比较，得出k-bestSDA的性能要优于排序ZF-QR算法的结论；并对相同环境下取不同的k值对性能的影响进行了仿真，得出了k的取值越大k-bestSDA算法性能越好的结论；最后，为了降低k-bestSDA的算法复杂度本文对k-bestSDA做了改进，新算法将k-bestSDA与排序ZF-QR相结合，通过比较，证明k-bestSDA与排序ZF-QR结合算法中，进行k-bestSDA算法的层数越多，性能越好；该算法通过减少计算PEDs节点数而完成对复杂度降低的目的。64QAM调制下，在k=8时，k-bestSDA与排序ZF-QR算法所占层数分别为6和2时，k-bestSDA与排序ZF-QR相结合算法取得了几乎与k-bestSDA相同的性能，但是前者的复杂度要比后者少约32％，达到了复杂度与性能的良好折中。最后，对应用于病态系统中的球形译码算法GSDI进行改进，新算法将GSDI算法与ZF检测相结合，设定了最初的搜索半径并去除了一些搜索路径；与此同时，在计算过程中对得出的估计值与ZF算法估计值进行汉明距离比较，将相差较远的值直接删除，从而减少搜索分支，通过仿真，可以看出我们的新算法可以达到与GSD相当的错误率，低信噪比时，其复杂度大大少于GSDI。