在蜂窝网络与终端直通技术(Device-to-Device, D2D)组成的混合网络中,D2D通信能够方便灵活的建立通信并支持小时延、低功耗和高速率的数据传输服务。作为一种重要的近场通信技术,D2D能够提高网络容量和网络资源利用率,满足移动多媒体业务对网络高带宽的需求。然而,D2D用户复用蜂窝网络频谱资源会使两个通信系统产生严重的相互干扰。为了解决混合网络的干扰问题,各种干扰协调方案层出不穷。这些方案取得了一定的研究成果,但仍在某方面存在问题。本论文在混合网络D2D单播通信场景、混合网络D2D多播通信场景以及异构网络D2D通信场景下,分别提出了有效的D2D干扰协调方案。文章的主要内容如下：(1)研究了混合网络中D2D单播用户与蜂窝用户产生的相互干扰问题,提出了在基站辅助下的D2D干扰协调方案。首先,通过设置混合网络中D2D用户的接收信干噪比(signal to interference plus noise power ratio, SINR)门限值,对已经建立D2D通信的用户进行基于门限的模式选择；其次,提出了改进的匈牙利算法,对混合网络中所有发起D2D请求的用户进行频谱分配,所提的改进算法可以降低算法复杂度；最后,提出了基于基站、蜂窝用户以及D2D用户位置信息的动态功率控制算法,为D2D用户进行了发送功率的设定。仿真结果显示,较之最优算法,在对蜂窝上行链路产生的工扰相同的情况下,所提的改进算法可以达到近似的吞吐量性能。(2)研究了混合网络中D2D多播用户与蜂窝用户产生的相互干扰问题,提出了基于功率控制和资源分配的D2D多播干扰协调方案。首先,针对D2D多播的基本概念,确立了D2D多播的通信建立方式和干扰模型,提出了基于门限的功率控制算法,降低了D2D多播用户对蜂窝系统产生的干扰,并确定了D2D多播发送端的发射功率上限；其次,提出了基于蜂窝用户位置信息的干扰区域限制算法,降低了蜂窝用户对D2D多播用户产生的干扰,并确定了能够与D2D多播复用的蜂窝用户集合；最后,根据备选集合,采用全局搜索的方法对D2D用户与蜂窝用户进行资源共享配对,为了降低运算复杂度,提出了基于基站容忍干扰度的次优子集搜索算法。仿真结果显示,所提出的干扰协调算法能够有效的提高蜂窝网络和D2D多播组的系统容量,达到了对D2D多播用户和蜂窝用户进行干扰协调的目的。(3)研究了异构网络中D2D用户与宏蜂窝和毫微微小区(Femto)用户产生的相互干扰问题,提出了宏蜂窝基站(Base Station, BS)和家庭基站(Home NodeB, HeNB)联合辅助下的D2D干扰协调方案。首先,结合D2D和Femto网络近距离、高带宽等共同特点,分别在宏蜂窝网络与Femto网络使用相同或不同资源情况下,分析了异构网络下的D2D干扰模型；其次,为解决异构网络下对D2D用户的管理问题,提出了网络标记法。所提方法能够对D2D通信进行有效地网络及模式选择；最后,从容量最优、能量最优以及干扰最小的角度,分别提出了三种干扰协调方案。仿真结果显示,所提方案在保证宏蜂窝网络、Femto网络以及D2D链路质量的同时,提高了异构网络的D2D容量。