目前,大规模多输入多输出(multiple-input multiple-output,MIMO)技术是5G(The Fifth Generation,5G)和未来无线通信中最为重要的技术之一。大规模MIMO不仅可以提高系统的频谱效率,同时也能显著提高系统的能量效率,然而大规模MIMO在实际应用过程中也受到众多因素的限制。信号检测技术便是限制大规模MIMO系统性能的要素之一,因其在基站端部署的大批天线阵列使得基站接收端检测信号的难度被成倍的放大,这就导致了大规模MIMO信号检测中需要实现大量的矩阵计算,特别是矩阵求逆计算。而如何能良好的平衡检测性能和算法复杂度,高效且准确地检测信号、恢复信号在未来无线通信领域,特别是在第五代移动通信研究过程中是一个亟需解决的关键问题。为了解决高性能低复杂度且适用于5G及未来无线通信的检测算法这一大规模MIMO研究中迫切需要研讨的问题,本文选取了目前大规模MIMO实际应用中最为常见两种信号检测算法—Neumann级数近似算法和Gauss-Seidel算法,进行改进与优化。本文在梳理了传统常见MIMO检测算法和基于MMSE矩阵求逆化简的大规模MIMO检测算法后,结合Neumann级数展开近似算法和串行干扰消除算法提出了一种新型检测算法Neumann-SIC算法。Neumann-SIC算法是在利用Neumann级数展开来近似MMSE精确矩阵求逆的基础上引入了干扰消除机制,该新型检测算法可以在确保误码率性能几乎无损耗的情况下将计算复杂度由O(K3)降至O(K2),并且该检测算法同样适用于天线规模较小时的传统MIMO信号检测,因此该新型检测算法的应用场景更加广泛。此外,本文在基于迭代算法求解线性方程以化简MMSE矩阵求逆的基础上,提出两种优化初始解应用于各迭代算法以达到提升误码率性能的目的。仿真结果表明,迭代算法在采用本文所提出的优化初始解后可迭代更少次数达到传统迭代算法的检测性能,通过几次迭代后优化算法能够快速收敛并达到接近MMSE的检测性能,与此同时将算法的计算复杂度保持在O(K2),与MMSE相比计算复杂度降低一个量级。采用优化初始解的Gauss-Seidel算法可达到接近MMSE检测的误码率性能,同时,该优化初始解同样适用于其他各迭代算法,并且可以通过调整合适的带宽参数达到当前配置下的最优检测性能。由于该优化初始解的应用范围较广,不仅适用于传统迭代算法同样也适用于混合迭代算法,在5G以及未来的移动无线通信中有较大的实用价值。