正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)和多入多出(Multiple Input Multiple Output, MIMO)是第四代(Fourth Generation,4G)移动通信系统提升频谱效率的关键技术。然而,在多小区密集频率复用(如复用因子为1)的情况下,小区间干扰(Inter-Cell Interference, ICI)将严重降低OFDM和MIMO可获得的频谱效率。为了提升小区频谱效率,特别是边缘用户频谱效率,4G网络干扰协调技术成为4G系统中的研究热点之一。通常情况下,干扰协调需要多个基站进行协作。按照基站间协作程度划分,干扰协调可分为两大类：基站间完全协作的干扰协调和基站间有限协作的干扰协调。完全协作是指基站间共享所有用户数据、信道状态信息,用户可将相邻小区干扰信号转化为有用信号,但这将带来较大的信令开销,网络规模较大时实现难度大；有限协作指基站间只共享用户信道状态信息、调度信息等,用户只从服务基站接收有用信号。受限于基站间回传链路有限的信道容量,后者在现阶段网络中较容易实现。因此,有限协作下的干扰协调受到众多标准化组织、研究机构的关注,也是本文研究的重点内容。同时,由于4G系统基于OFDM和MIMO采用了两种多址接入技术：正交频分多址接入(Orthorgonal Frequency Division Multiple Access, OFDMA)和空分多址接入(Spatial Division Multiple Access, SDMA),本文也分别从频域和空域对有限协作下4G网络干扰协调中的三个问题进行了深入研究,分别为：频域动态频带分配问题、空域发送天线模式选择问题,以及空域分布式线性预编码矩阵设计问题。本文主要的研究工作和创新点如下：(1)针对频域动态频带分配及干扰波动抑制问题,提出了基于资源排序的上行协同调度(UCSRS)策略。首先,本文分析了上行干扰波动的起因及其对吞吐量的影响。基于干扰波动的起因,UCSRS通过资源调度排序和发送功率分配来抑制上行干扰波动对用户吞吐量的影响,并利用不同区域用户对干扰承受能力的差异性来分配资源以避免用户因信干噪比(Signal to Interference plus Noise Ratio,SINR)过低而不能得到服务。结果表明,UCSRS可以有效抑制干扰和上行干扰波动,并可有效提高小区平均频谱利用率和边缘用户频谱利用率。(2)针对空域发送天线模式选择问题,提出一种基于干扰信道特征值的下行发送天线模式选择(EVITMS)策略。首先,本文通过理论推导得到一种基于干扰信道特征值的单用户下行容量下限,并分析得出该容量下限与单用户平均容量随着小区边缘SNR、用户在小区中位置变化的趋势一致。基于该容量下限,多小区下行发送天线模式选择问题被转化为单小区接收天线选择的局部优化问题,并提出了启发式优化策略EVITMS。该策略利用容量下限作为天线模式选择依据,避免受相邻小区干扰较严重的接收天线被激活。结果表明,EVITMS可有效提高被激活天线的SINR。同时,小区平均频谱利用率和边缘用户频谱利用率也可得到有效提升。此外,与完全干扰信息反馈的天线模式选择方案相比,EVITMS可达到完全干扰信息反馈时可获得小区平均频谱利用率的96%,但完全干扰信息反馈所需的反馈开销是EVIMTS所需反馈开销的T2M倍,其中T为完全干扰信息反馈所需迭代次数,M为用户接收天线个数。(3)针对空域分布式线性预编码问题,提出了两个创新点：基于最小干扰泄漏的下行预编码(Precoding based on Minimum Interference Leakage, PMIL)策略和基于PMIL的下行自适应自由度分配(Adaptive Freedom Allocataion with PMIL, PMIL-AFA)策略。首先,下行分布式线性预编码问题被建模为联合预编码矩阵设计和自由度分配问题。为了对该问题进行求解,这个联合优化问题被分解为两个问题：固定自由度分配下预编码矩阵设计问题和下行自适应自由度分配问题。对于固定自由度分配下预编码矩阵设计问题,本文采用PMIL来消除同一小区内用户间干扰同时,最小化对相邻小区受干扰用户的干扰泄漏之和,从而使每个受干扰用户的SINR都得到提升。对于下行自适应自由度分配问题,本文基于PMIL通过理论推导得到一种自由度分配变化时系统下行容量改变量下限。利用该容量改变量下限,本文采用PMIL-AFA来动态调整单个基站用于抑制相邻小区干扰所牺牲的自由度,以最大化系统总容量。结果表明,PMIL-AFA可有效地增加小区平均频谱利用率和边缘用户频谱利用率。