随着智能移动设备的海量接入和新兴无线通信业务的加速普及,移动数据流量呈爆炸型增长,用户对数据速率要求愈来愈高,5G的关键技术D2D(Device-to-Device)通信技术与中继协作技术应运而生。基于D2D通信技术与中继协作技术的优势,本文主要分析研究了异构网络中以及将中继协作技术引入异构网络带来的复杂同频干扰、频谱资源分配、中继选择和能量消耗问题。主要研究工作概括如下:1.针对由蜂窝用户和D2D用户构成的异构网络中同频干扰严重和频谱资源利用率低的问题,提出了一种新的资源管理方案。为控制蜂窝用户工作时被D2D用户复用通信情况下基站受到的干扰,提出在基站端设置保护区域;然后将保护区域外的D2D用户分组,有效减小D2D用户之间的相互干扰,并实现了一个蜂窝用户的频谱资源被多个D2D用户复用通信的场景;最后,通过中断概率准则,给每个D2D用户组选择一个蜂窝用户复用其上行频谱资源。仿真结果表明,该算法不仅可有效控制用户之间的同频干扰,还能够将更多的D2D用户接入系统网络,同时提高了系统的吞吐量和公平性。2.针对D2D用户信道质量较差无法实现D2D通信问题,本文提出一种联合模式选择和资源分配的中继选择算法。先判断D2D用户是否需要中继,依据判断结果选择通信模式;然后通过加权调节空闲用户的地理位置和剩余能量因素,为需要中继的用户智能选择最优中继节点;最后基于一级密封报价拍卖机制为两跳通信链路选择最优复用频谱资源。仿真结果表明,本文提出的算法相比基于区域划分选择中继节点最大化系统吞吐量算法,不仅更符合实际需求,还能提高网络覆盖率和系统吞吐量。3.针对D2D通信引起的同频干扰和移动设备电池能量有限问题,本文基于认知用户网络,通过分析中继辅助D2D用户通信系统,提出一种联合资源管理的功率分配算法以最大化系统能量效率。首先基于认知无线电技术感知可用的频谱资源,结合提出的限制区域准则自适应选择两跳通信链路可复用的频谱资源,有效协调同频干扰;其次在保证用户通信质量的同时通过将非线性分式规划转化为非线性参数规划,推导出蜂窝用户、中继用户和D2D用户的最佳发射功率范围,从而高效使用有限电池能量。仿真结果表明,本文所提算法不仅可扩大D2D通信覆盖范围,还可有效提高系统能量效率实现绿色通信。