多址和双工技术是无线通信领域中的重要研究方向,能够在下一代的通信系统中为各种场景和各类应用提供有力支撑。随着全球无线通信业务量以及无线终端数量的日益增长,建立正交的无线数据链路已经不足以满足网络用户的需求。本文总结归纳了 5G的技术指标要求和三大场景对应的无线通信需求,分析了研究非正交的多址和双工技术的必要性,阐述了基于延时信道状态信息(Channel State Information,CSI)、统计学CSI的新型空分多址技术,并强调了这两种多址技术在无法获得实时完美CSI环境下的系统优势;梳理了非正交多址(Non-Orthogonal Multiple Access,NOMA)的发展历程,辨析了与传统正交多址技术的差异,肯定了NOMA在支持海量连接时的优势;此外还分析了同频全双工(Full-duplex,FD)通信的瓶颈问题和性能极限。面对复杂多样的用户需求和通信环境,本文利用上述关键技术的优势从预编码、用户调度以及资源优化分配等角度研究提高系统性能的算法和技术。本文的主要工作和贡献包括以下几个方面:针对发射端只可获得用户统计学CSI的情况下的多址接入问题,在遍历性速率解析表达式的基础上提出了一种在系统吞吐量和用户公平性上都具备优势的T2-MUSA用户调度算法。另外从用户的服务质量需求(Quality of Service,QoS)出发提出一种最大化保证队列稳定且拥有较高吞吐量的用户调度算法。由于等效多址信道的非正交性,研究了在发射端只有用户统计学CSI的情况下的现有预编码设计,为单用户和两用户的用户组分别确定了复杂度较低且性能逼近最优解的预编码,根据已有的研究推导出了单用户和两用户组的遍历性速率表达式。仿真结果表明所提出的两种算法相比于传统算法具有明显优势。针对多输入多输出(Multiple-Input Multiple-Output,MIMO)结合 NOMA通信系统中的速率最大化问题,提出了从预编码到接收器的一整套传输方案。其中,系统模型考虑了信道估计误差和有限动态范围(Limited Dynamic Range,LDR)噪声的影响。从最小均方误差出发得到了最优接收器的解析表达式,其次利用迭代D.C.(Difference of two Convex functions)规划寻找预编码的表达式。仿真结果表明提出的NOMA系统传输机制相比于传统正交多址(Orthogonal Multiple Access,OMA)系统的具有系统级优势。另外仿真结果展示了算法的收敛性和不同天线数量情况下的系统和速率,对算法进行了全面的评价和理论分析。针对同频全双工通信中上下行链路QoS不对称的实际情况,提出了OTS-DCP和TTS-DCP两种算法来解决最大最小可达速率问题。由于同频全双工通信中的自干扰信号无法完全消除,系统模型考虑了信道估计误差和LDR噪声对同频全双工系统的影响,同时还考虑了用户的不同QoS需求以及链路的不对称性。对优化问题进行建模以后,采用了基于D.C.函数的变形使得问题转变为一个凸问题进而求解。仿真结果表明提出的算法能够获得更高的频谱利用率,当改变不同的上下行需求比例时,算法还能获得MIMO同频全双工的速率域。针对同频全双工D2D认知无线电网络中的稳定匹配问题,在满足主用户的QoS需求的情况下从D2D用户对的角度出发提出了一种联合欺骗策略使得部分D2D用户可以获得更高的传输速率。认知无线电技术能够让非授权的次级用户去复用授权的主用户的工作频段使得频谱利用率进一步提高。因为频段的复用是用户的自发行为,网络的拓扑结构更加多变和不稳定,所以主要研究了在这种认知无线电网络中的稳定匹配问题。仿真结果表明D2D用户对的整体速率在欺骗策略下获得了明显的增益。