近些年来移动通信技术高速发展,人们对通信质量的要求越来越高,需求的服务也趋于多样化、复杂化。针对LTE-A蜂窝小区边缘等地区通信质量较低的问题,引入中继技术在现有的无线网络的基础上,扩展覆盖区域,提高热点地区通信质量。D2D技术可以高效利用日益短缺的频谱资源,分担基站的流量,减轻负担,提高通信系统的吞吐量和频带利用效率。利用层3中继具有无线资源管理的特点,使其与D2D直通用户、D2D非直通用户、蜂窝用户并存构建通信网络,研究不同模式配置的情况对通信系统吞吐量的影响。本文的研究背景考虑在LTE-A蜂窝小区中,同时结合中继技术与D2D技术,对系统通信性能进行研究分析。基于LTE-A中继蜂窝网络系统架构和链路模型、以及D2D技术的工作原理和通信模式,分别考虑将D2D非直通模式(中继转发模式)、D2D直通模式(复用模式)与LTE-A中继蜂窝网络结合,建立两种模式D2D系统模型,分析各通信过程,构建以系统吞吐量为目标函数的MINLP优化问题。证明该目标函数及限制条件满足凸优化条件,而后利用拉格朗日对偶法求解。通过理论推导和仿真分析,发现不同D2D通信模式与中继技术结合构建的LTE-A蜂窝小区在吞吐量和公平性上的差异。在以上两种模型的基础上,建立同时包含两种D2D通信模式的系统模型,同样以系统吞吐量为目标函数,由于此问题为非凸问题,因此利用遗传算法求解,分析比较在不同网络场景参数对系统吞吐量的影响情况。