伴随智能终端的普及和移动用户数量的快速增长,下一代移动通信技术将面临频谱资源短缺带来的严重挑战。全双工(Full-duplex,FD)通信技术因其较高的频谱利用效率而受到业界的广泛关注,特别地,随着自干扰消除技术的日渐成熟,全双工已然成为了一种保障高频谱效率的有效通信方式。针对能量与频谱资源短缺的问题,本文研究了结合无线携能通信(Simultaneous Wireless Information and Power Transfer,SWIPT)技术和非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术的全双工中继通信系统吞吐量最大化的高效传输方案;针对NOMA用户的自干扰消除与用户间干扰消除不完美的情况,本文研究了包含全双工中继的NOMA系统中的能量效率最大化(Energy Efficiency Maximization,EEmax)问题;区别于传统的安全通信理念,针对可能的不合法用户间通信,从保障社会公共安全的角度,本文研究了基于协作中继和全双工主动窃听(Proactive Eavesdropping)的合法监听(Legitimate Surveillance)速率最大化资源分配方案;考虑到无线信道的广播特性,私密信息在无线信道中的传输面临被非法窃取的风险,因此,本文研究了多用户全双工多入多出(Multiple Input Multiple Output,MIMO)窃听信道中具有安全性能保障的资源分配方案,并针对非完全已知的信道状态信息进行相应的鲁棒性设计。具体研究内容和主要贡献如下:1.研究了一个基于全双工中继的SWIPT NOMA系统,在保证小区边缘用户的Qo S要求和能量收集约束前提下,提出了以小区中心用户(同时也充当全双工中继)信息接收速率最大化为准则的设计方案。系统中,信道状态信息好的小区中心用户以全双工模式边接收来自基站的信号边给信道状态差的小区边缘用户转发信息,与此同时,采用功率分离的方式将接收到的射频信号一部分用于信息转发另一部分用于转化为能量储存。通过对信号功率分配比、波束形成向量以及功率分离比进行联合优化,实现了对中心用户接收速率的最大化设计。对建模的极度非凸非线性分式问题,利用分步式优化方法给出其半闭式解,并进一步地采用迭代求解的方式给出其最优解。此外,本文还提出了一种基于粒子群优化的低复杂度次优方案。仿真结果验证了所提最优设计方案的最优性能,同时也展示了次优方案的有效性。2.研究了一种NOMA系统,其中近NOMA用户能够直接与基站通信,而远端NOMA用户需要全双工中继的协助。该系统中应用了无线能量传输,其中包含功率分离结构的FD中继可以同时由收集的能量进行无线供电。假设在NOMA用户的自干扰消除和用户间干扰消除是不完美的。为最大化此NOMA系统的能量效率,本文研究了基站和中继的功率分配比和发射波束形成向量,并保证了两个用户的Qo S要求。所提出的问题是非线性分式规划,它是高度非凸的并且很难获得全局最优性。通过引入Charnes-Cooper变换和内部逼近方法,我们提出了一种迭代算法来获得近似最优解。仿真结果表明,所提出的联合优化算法在能量效率以及SI消除对性能增益的影响方面均优于现有方案。3.提出了一种两个合法监听器进行合作监听的无线窃听系统,弥补监听过程中单一的监听器无法满足监听需求的缺陷。具体来讲,在合作监听中采用一个监听器作为中继,增强非法用户间的信息传输速率并提升监听器的监听能力,另一个监听器采用全双工通信模式,接收信号的同时向外发射干扰信号以保障有效监听。基于信道状态信息完全已知和部分已知的两种情况,分别对监听器的信号发送波束成形向量进行优化设计以实现监听速率的最大化。信道状态信息完全已知时,原问题非凸且难以直接求解,通过结合其物理意义对不同条件下的信道状态信息进行对比分析,给出了相应的闭式解及其信息发送策略。信道状态信息部分已知时,利用S-procedure引理将无限多约束的原优化问题转化为有限个线性矩阵不等式约束问题,进而获得原问题的最优解。仿真结果表明,较比传统的单一监听器系统,本文所提全双工合作监听方案可显著提升系统的有效监听速率。4.针对多用户全双工MIMO窃听信道,研究了在保证上下行链路安全通信的前提下,上行用户和下行基站发射功率最小化的问题。考虑窃听信道和互干扰信道不完美信道状态信息的情况,本文给出了相应的鲁棒性资源分配方案。为实现上行用户和下行基站发射功率最小化的目标,基于对二者性能之间存在一定内在冲突的判断,本文利用多目标优化架构对二者功耗进行均衡化设计。建模的优化问题非凸且难于求解,结合加权切比雪夫、一阶泰勒展开和S-procedure引理的方法,我们将原非凸问题转换成为凸问题,进一步地利用迭代算法对其进行求解。仿真结果不仅表明多目标优化方法可在两个相互冲突的目标之间获得有意义的权衡点,而且证明了所提鲁棒性资源分配设计方案的高效性。