无线通信系统中的MIMO技术已日渐成熟,且已成为LTE/LTE-Advanced中的关键技术。目前LTE标准所支持的最大天线数目为8,其实际的频谱效率仅为5 bps/Hz。Massive MIMO作为MIMO技术的延伸,也是5G的核心技术之一。它可将天线数增加到数十根甚至上百根,最大限度地利用已有资源,将信道容量和频谱效率提高数十倍。然而,在Massive MIMO系统中,由于天线数目众多,接收信号复杂,信道矩阵维度巨大,对接收端的信号检测算法提出了更高的要求,希望以较低的复杂度实现良好的性能。正是在这样的背景下,本文对适用于Massive MIMO信号检测的置信度传播(BP)算法进行进一步地研究,使其在不同的场景下达到更高的性能并具有更低的复杂度。BP算法作为Massvie MIMO中比较优秀的检测算法,近年来引起了学者们地高度关注。本文主要就如何进一步降低BP算法的复杂度以及解决在高阶调制方式下,BP检测算法表现不好的问题进行了研究。本文提出了降低BP算法复杂度的三种方法:分层置信度传播、强制收敛、节点选择,并对它们进行了分析比较;提出了适用于采用高阶调制方式的Massvie MIMO系统的GTA-BP算法和GTA-BP-SIC算法,并对其进行了仿真分析。本文首先介绍了Massive MIMO系统及其信号检测技术的研究背景和面临的现状,并对MIMO系统模型和常见的Massive MIMO检测算法的原理作了简要概述。再详细阐述了基于马尔科夫随机场和因子图模型的BP算法并提出了三种降低置信度传播算法复杂度的方法。并对将每一种方法的原理进行了介绍,并将它们与纯置信度传播算法的性能进行了仿真对比。然后提出了在具有高阶调制的Massive MIMO系统中用于信号检测GTA-BP算法。详细论述了如何将高斯近似树运用在BP算法中,并给出了算法的详细过程和仿真分析,解决了BP算法在高阶调制系统中性能不好的问题。最后受MMSE-SIC算法的启发,将GTA-BP算法与串行干扰消除思想相结合提出了GTA-BP-SIC算法。对算法的思路及每一个步骤进行了讲解:如何改变BP算法的信息更新规则、如何运用最佳排序的思想。最后对GTA-BP-SIC算法进行了仿真分析,结果表明进一步提升了GTA-BP算法的性能。本文以置信度传播算法为重点,提出了在其基础上发展出来的低复杂度、高性能的检测算法,为Massive MIMO信号检测问题带来了一些新鲜的思路和方法。