随着便携式终端设备的迅猛增多,视频、语音等多媒体业务的发展,无线通信带宽需求的不断增长和无线网络有限的资源供应成为主要的矛盾。如何提高有限频谱的利用率是研究的重要方向。其中,D2D通信(Device-to-Device communication)是一种近距离用户终端直连的新型技术,具有提高频谱效率,降低传输时延,减少移动终端的功率损耗,减轻基站的负荷的优点,成为了近年来研究的热点。尽管D2D有以上优势,但是将D2D通信引入到不同的系统中时,可能会对系统中原有的用户造成干扰,同时系统中的用户也会对D2D通信用户的通信造成影响。本文从模式选择和干扰管理两个方面进行研究,以达到降低D2D用户和系统之间的相互干扰,最大限度地发挥D2D通信技术优势的目的。首先,本文研究了WLAN下的D2D通信。WLAN(Wireless Local Area Networks,无线局域网)的优点是能够提供低成本的高数据率,同时由于WLAN是小范围覆盖,用户距离较近,此时,若采用D2D技术,可以进一步提高网络性能。据此,本文给出了D2D通信在WLAN下的系统模型与通信模式,并对WLAN下D2D通信的干扰作了简要分析。其次,异构网络能够充分利用不同网络间的互补特性,提高资源利用率,是下一代网络发展的必然趋势,也是实现网络资源最优利用的根本途径。目前,LTE蜂窝网和IEEE 802.11n WLAN构成的异构网络成为了近年来主要的研究热点。本文对D2D通信在异构网络下的模式选择和干扰管理问题作了深入研究。针对模式选择问题,首先,本文提出了一种新的D2D通信模式,因此D2D通信在异构网下有五种备选模式:LTE蜂窝网-传统模式、LTE蜂窝网-复用模式、LTE蜂窝网-专有模式、WLAN-传统模式和WLAN-专有模式。为了让D2D用户工作在最佳的模式,最大限度地提高系统性能,我们基于用户终端的WLAN接入需求并结合用户终端所在位置,对LTE蜂窝网络和WLAN网络进行选择,并考虑到了多归属性用户。最后,以最大化频谱效率为目标对D2D通信的模式进行选择。针对D2D通信在异构网络下的干扰管理问题,本文分析了D2D在异构网络中所受的三层干扰,对于异构网络中D2D用户所受的干扰,提出了一种基于频谱队列的干扰管理算法,针对资源充裕和资源匮乏两种情况分别给出了不同的算法。最后,我们还搭建了基于LTE蜂窝网络和IEEE 802.11 WLAN的异构网络仿真平台,并引入D2D模块。并且在此平台上进行仿真实验,结果表明,所提的模式选择和干扰管理算法提高了频谱效率,提升了系统性能。