随着移动互联网和物联网(Internet of Things,IoT)的高速发展,多址接入技术逐渐地成为了无线移动通信系统的热点研究问题。为了实现第五代移动通信(Fifth Generation,5G)中多样化的通信场景需求,传统的正交多址(Orthogonal Multiple Access,OMA)技术已经不能满足要求,所以一些非正交多址(Non-orthogonal Multiple Access,NOMA)技术就应运而生。稀疏码多址(Sparse Code Multiple Access,SCMA)是一种极具竞争力的非正交多址技术,其能够提高频谱效率和支持海量连接。最大后验概率(Maximum A Posterior,MAP)算法作为SCMA系统中最优的多用户检测方案,其计算复杂度太高不容易实现。而消息传递算法(Message Passing Algorithm,MPA)作为次优的多用户检测方案,其利用码字的稀疏特点可以在一定程度上降低计算复杂度并且接近MAP算法的性能。为了促进SCMA技术的商业化进程,本文将从高效的多用户检测方案和码本分配优化方案进行研究,主要的工作安排如下:(1)在上行链路SCMA系统中,传统MPA算法的计算复杂度随着用户数和码本大小的增加呈指数增长,所以本文从星座图和因子图两个方面进行研究来降低传统多用户检测算法的译码复杂度。一方面,本文提出基于动态星座点的低复杂度MPA算法,通过减少参与消息更新过程的叠加码字星座点(Superposed Constellation Points,SCPs)数量来降低计算复杂度。另一方面,本文提出基于动态因子图的低复杂度MPA算法,通过动态地减少参与消息更新过程的边的数量来降低译码复杂度。与传统MPA算法相比,本文提出的多用户检测方案通过设置合理的参数能够在计算复杂度和误比特性能(Bit Error Rate,BER)之间更好的折中。(2)由于用户和基站之间的信道具有随机性,根据信道增益情况对用户所采用的码本信息进行自适应的调整,从而提升SCMA系统的性能。针对SCMA系统中传统随机码本分配方案没有充分利用基站与用户之间信道状态信息(Channel State Information,CSI)的问题,本文提出了两种码本分配优化算法:固定资源节点次序码本分配和动态资源节点次序码本分配。与传统随机码本分配方案相比,本文所提出的码本分配优化方案在保证收敛性能不变的情况下明显地改善了SCAM系统的BER性能。(3)针对SCMA系统中传统MPA算法在用户活跃状态未知的情况下不能进行多用户检测的问题,本文首先提出一种基于码本设计(Codebook Design,CD)的MPA算法(称为CD-MPA)用于联合检测用户的活跃状态信息以及发送的数据。在此基础上,本文提出了一种基于球形译码(Sphere Decoding,SD)的MPA算法(称为SCD-MPA)来进一步降低多用户盲检测算法的译码复杂度。仿真结果表明,在与CD-MPA算法相比时,SCD-MPA算法通过选择合适的球形译码半径能够大幅度降低计算复杂度,且保持误码率(Symbol Error Ratio,SER)、漏检概率以及收敛速度基本不变。