随着5G网络的发展与应用,异构网络中小蜂窝的密集化程度越来越高,致使有线回程成本大大增加。作为5G的候选技术,带内全双工(In-Band Full Duplex,IBFD)通信能够在相同频带实现电磁波信号的同时发射和接收,理论上可以将频谱效率提升一倍。这样,将带内全双工用于高密集化小蜂窝的回程转发成为一种有效可行的解决方案。不过,带内全双工通信所引起的干扰问题会严重降低全双工增益。为此,本文研究了异构网络中具有带内全双工能力的小基站下行链路的干扰管理问题,主要工作如下:1.针对多层异构蜂窝网络IBFD无线回程中的小区间干扰问题,设计了一种混合双工基站的部署方案。首先,建立由宏基站和多个小基站组成的多层异构蜂窝网络的系统模型,分析小基站不同工作模式下的干扰类型。然后,针对不同干扰类型的小基站回程模式选择问题,基于系统容量最大化,提出一种次优的基于贪心算法的双工模式选择算法。仿真结果表明了所设计模式选择算法的有效性。2.针对两层异构蜂窝网络中回程链路与接入链路之间的跨层干扰问题,设计了一种小蜂窝用户的功率分配及小基站最优回程模式选择的干扰管理方案。首先,根据小蜂窝用户位置及信道增益的不同,建立小基站不同回程模式下的系统容量函数。然后,从两个方面考虑目标函数的求解:一是基于非合作Stackelberg博弈的功率控制下的干扰协调;二是基于不同双工模式的小基站效用最大化的无线回程模式选择。仿真结果表明了所设计功率控制和模式选择方案的有效性。