未来移动通信网络应用对系统的时延、频谱效率、QoS、系统可靠性等指标都有着很高的要求。为了满足这些要求,第五代蜂窝移动通信系统（the 5th Generation Cellular Mobile Communication System,5G）引入了多输入多输出系统（MIMO）、毫米波以及超密集异构网络等技术。近年来随着以深度学习为代表的人工智能技术的兴起,学界对深度学习技术在传统移动通信领域的应用愈发关注,MIMO检测技术也成为了这一领域研究的热点之一,然而,现有的基于深度学习的MIMO检测技术在检测性能方面仍有挖潜空间,同时这些算法所提供的检测性能-计算复杂度折衷效果也亟待提高。本文针对传统深度MIMO检测算法中存在的上述问题,研究了基于深度学习的迭代检测方法,以期通过构建迭代检测结构的方法来提供更优的检测性能和更好的检测性能-计算复杂度折衷效果。本文首先针对MIMO检测领域的相关研究状况进行了简述,指出了传统MIMO检测技术的在发展中存在的瓶颈以及基于深度学习的MIMO检测技术面临的挑战,同时介绍了论文的创新点及主要工作。而后本文在第二章详述了MIMO检测理论、本文仿真及建模中所用到的MIMO信道模型及诸如迫零、最小均方误差、正交近似消息传递等经典检测算法,同时详细介绍了论文仿真采用的软硬件环境设置以及帧结构。在论文的第三章及第四章,本文针对两种典型的深度MIMO检测网络——Det Net检测网络与LISA检测网络进行了详述,并在此基础上构建了三种迭代检测模型,分别是基于Det Net算法的迭代Det Net检测模型、分离训练检测模型以及基于LISA算法的联合训练检测模型。三者中迭代Det Net检测模型提升了系统的检测性能,分离训练检测模型为系统提供了更优的检测性能-计算复杂度折衷,而联合训练检测算法则是在有效提升了检测性能的同时降低了系统的计算复杂度,在此基础上论文还介绍了这几种深度检测器的仿真及训练的详细过程并给出了仿真结果来证明三种迭代检测器各自的优势,在这两章的结尾部分论文还给出了五种深度检测器对于信道相关性的泛化能力分析。仿真结果表明,迭代DetNet检测算法的检测性能较DetNet检测算法有一定的提升,这部分增益在低阶调制的情况下较为明显而在高阶调制的情况下较低,分离训练检测器可以以约0.1d B甚至更低的性能损耗降低大约一半的计算复杂度,而联合训练检测器则可以在提升性能表现的前提下降低超过一半的计算复杂度,在信噪比较高的区域,联合训练检测器的计算复杂度甚至会低于性能相对较差的Det Net检测器,因此联合训练检测器可以提供最优的检测性能以及检测性能-计算复杂度折衷。此外以上五种深度检测器均具有一定的泛化能力,在非相关信道中进行训练的检测器在相关信道均有较好的检测性能。