自2006年起,高效深层网络训练方法的出现使得深度学习在本世纪迎来了其发展的第三次高潮。2012年,深度学习在语音识别和图像分类上的成功使得深度学习相关研究再度崛起的同时逐步延伸至更多领域。2016年以来,以深度学习与通信技术相融合的智能通信技术开始呈现爆炸式发展,内容基本涵盖物理层的各个方面。本文将侧重于基于深度学习的信道译码算法研究,并针对5G标准中规定的LDPC码、polar码以及LTE标准中的Turbo码给出基于深度学习的增强型译码方案和具体有效的训练方法。首先本文概述了LDPC码的一些基本概念,并简要说明了基于原型图扩展的5G-LDPC码的QC扩展特性。接着本文介绍了经典BP译码算法和可将迭代算法网络化的深度展开方法。然后本文根据5G-LDPC码的QC扩展特性,通过深度展开得到了可训练的D-LMS（Deep-Learning based Min-Sum,D-LMS）译码算法,并给出了网络超参数的设计方法。之后,本文研究了基于Ksparse结构的D-LMS-Ksparse-OSD增强型算法,期望通过网络特化训练和二级OSD译码算法进一步提升译码性能。在介绍数据集相关参数的设计时,本文提出了一种数据集优化算法可以进一步加快网络收敛。最后,通过仿真实验验证了D-LMS算法在不同码率不同码长下的性能均优于NMS算法且优于已有的基于学习的LAMS算法。仿真结果还表明增强型算法D-LMS-Ksparse-OSD在短码下的解码性能略优于D-LMS算法。接着,本文探究了如何实现与LDPC码译码具有相似译码结构的polar码译码算法。本文首先介绍了信道极化的基本概念,并以此为基础说明了极化码的特点及编码方法。接着,本文概述了两种极化码的经典译码算法:串行抵消算法,串行抵消列表算法。然后,本文结合深度展开和校验矩阵稀疏化方法提出了Sparse-D-LMS算法,并在参考噪声辅助（Na）BPL算法的基础上给出了基于噪声辅助的（Na）Sparse-D-LMSL增强型译码算法。仿真结果显示Sparse-D-LMS算法能够以更低的复杂度达到与Sparse-BP算法相近的性能。Na-Sparse-D-LMSL算法性能与SCL算法相当。虽然Na-Sparse-D-LMSL算法性能劣于CA-SCL,但是其具有良好的并行结构,且与LDPC码译码器有相似的译码结构。最后,本文介绍了基于数据与模型混合驱动的NN-Turbo译码器。首先,本文概述了LTE标准中Turbo码的生成方式包括具体的编码方法、尾比特生成规则以及QPP交织方法。接着本文给出了Turbo译码器常用的BCJR译码算法。之后本文研究了NN-Turbo译码器的具体实现方式即在深度展开Turbo译码器的基础上,将分量译码器的核心替换为数据驱动的网络。关于分量译码器的核心选型,本文分析了循环神经网络（RNN）和卷积神经网络（CNN）两类网络核心的优缺点。同时针对数据驱动核心难以训练的问题,本文给出了基于熵增的网络训练方法。为提高网络译码的鲁棒性,本文提出了兼容不同码长不同码率的NN-Turbo译码器训练方案。仿真结果显示RNN更适合作为NN-Turbo译码器译码核心,在无需噪声估计的条件下NN-Turbo的译码性能好于Max-Log-MAP且可以逼近Log-MAP的性能。码长兼容可通过RNN网络循环特性实现,码率兼容则可以通过迁移训练方式实现,仿真结果显示上述方案可以有效保证NN-Turbo的优异性能。