随着无线通信技术的快速发展,人们对通信技术的可靠性和高效性提出了更高的要求,作为下一代移动通信的核心技术之一,非正交多址接入技术(Non-Orthogonal Multiple Access,NOMA)引起了广大学者的注意。NOMA技术可以令接入用户共享时频资源从而大幅度提升了频谱效率,并通过对接入用户的功率分配可以保障用户间公平性。协作通信技术作为多天线技术的扩展技术,可以通过单天线设备间进行相互协作转发的方式来达到传输路径共享,提升了接收信干噪比(Signal to Interference plus Noise Ratio,SINR),进而提高了整个网络的可靠性。NOMA技术和协作通信的结合为无线通信注入了新的活力,鉴于此本文对基于NOMA的协作中继网络进行研究。首先,本文对协作通信和NOMA的研究背景和意义进行了介绍,并对无线信道的传播特性和协作分集技术进行了一定程度的介绍。在此基础上对协作NOMA的工作原理和发展意义进行了介绍,并对采用NOMA和OMA(Orthogonal Multiple Access,OMA)的系统容量进行了简单对比分析。在多中继的协作NOMA系统中,不同的中继选择方案会带给接收端不同的接收信噪比,进而影响系统的中断性能,因此如何设计合理的中继选择方案会直接影响整个网络的中断性能。本文对采用解码转发(Decode and forward,DF)的单源多中继协作NOMA系统进行了研究,由于DF转发方式下中继节点需要对混叠信息进行解调才可以进行转发,因而混叠信号中的每个用户信息在中继和目的节点处均不发生中断才可以保证整个系统不发生中断。在此基础上对两种中继选择方案进行了研究,并进行对比分析。进一步,对采用放大转发(Amplify and Forward,AF)的多用户多中继协作NOMA网络进行了研究。在该系统模型下,首先使用一种简单的基于瞬时信道增益的快速用户-中继选择方案对系统中断性能进行研究,探讨功率分配因子对系统中断性能的影响,为了能够通过最优的功率因子达到最小化的系统中断概率,根据混叠信息中时延特性确定解调顺序。为保证时延敏感信息的服务质量,提出一种自适应的功率分配因子,并在此基础上,找到解码限制条件,并以此为基础提出了一种最佳用户-中继选择方案。并对其中断性能进行计算及分析,最后通过Matlab仿真验证了之前分析的正确性,结果表明本文提出的用户-中继选择方案可以通过自适应的功率控制方式有效的改善系统中断性能,提升系统传输信息的可靠性。