现代信息社会中,人们对宽带移动通信系统的数据需求量日益增长。为此,未来宽带移动通信系统必须提供更高的传输速率和更优的服务质量。目前,第四代移动通信系统正处于研制和完善阶段,为进一步提高系统容量、小区边缘用户吞吐量以及改善用户的移动性能,有必要探究更高效的物理层技术和媒体接入层技术。LTE-Advanced系统是目前国际上公认的第四代移动通信(即4G)系统。该系统物理层采用了MIMO-OFDM技术,其中的链路自适应、有限反馈、3D MIMO等技术对基于MIMO-OFDM技术的宽带移动通信系统的性能起着至关重要的作用。深入探究这些物理层重要技术,对提高系统频谱利用率,改善小区边缘用户性能有着重要意义。另外,为进一步提高用户端的吞吐量,LTE-Advanced系统引入了异构网络技术。相比传统的同构网络,在异构网络中,用户端受到了更加严重的同频干扰,导致了其移动性能恶化。研究媒体接入层中的切换技术以改善异构网络中用户端的移动性能,对于未来移动通信系统提供更高的传输速率和更优的服务质量,有着重要作用。本论文重点研究了几个方面的技术：增强型链路自适应、单用户MIMO与多用户MIMO传输动态转化、3D MIMO传输方案和用户端反馈策略、异构网络中用户端移动性能的改善策略。本论文的创新点如下：1)闭环MIMO系统存在动态小区间干扰问题,已有主流解决方案是外环链路自适应技术(OLLA)。这种算法只能从长期统计特性上,减少小区间动态干扰带来的链路不匹配。多基站协作通信技术的提出,为解决闭环MIMO中小区间动态干扰带来的链路不匹配问题,提供了可能。论文的第二章提出了一种基于联合干扰预测的增强型链路自适应算法。这种算法利用协作基站间共享的用户反馈的信道信息,对存在的动态干扰进行联合预测,并据此实时调整基站端发送数据的调制编码方案,从而可以从瞬时特性上,克服由动态干扰变化引起的链路不匹配问题。通过对动态变化的小区间干扰进行联合预测,基站端在传输数据时可以选择更加合适的调制编码方案,从而系统频谱利用率可以得到显著提高。这种算法基于多基站协作技术,并没有引入多余的系统开销。2) LTE-Advanced系统中,闭环MIMO支持多用户MIMO传输技术。在多用户MIMO传输技术中,多个用户共享时频资源,可以大大提高系统频谱利用率。然而用户在反馈自身的链路信息时,只能使得单用户传输性能最优。当基站端进行多用户传输时,利用这种链路信息,可能导致用户反馈的链路信息与基站端所需的链路信息不匹配,从而导致基站端执行多用户传输的系统性能下降。论文的第三章提出了一种新颖的反馈策略,以提高基站端进行单用户和多用户传输动态转换的系统性能。在这种策略中,基站端根据用户的反馈信息,发送信令指示用户端反馈多用户或者单用户传输链路最佳的信道信息。当进行多用户传输时,基站端可以从用户端反馈的多用户链路最优的信道信息中提取当前信道矩阵的主特征向量,从而可以提高多用户传输的系统性能。同时,通过信令指示,单用户传输的性能也没有受到损失。3)前两个研究点是基于二维(2D)MIMO技术。为了进一步提高系统频谱利用率,探究了一种可用于LTE-Advanced系统的新颖的MIMO技术—三维(3D) MIMO。3D MIMO技术进一步利用了信号传输的空间特性,为基站端提供了另一个空间自由度来传输信号和消除干扰。相比2D MIMO系统,在3D MIMO系统中,基站端可以同时利用水平空间和垂直空间,发送更加准确的空间波束给用户。然而,3D MIMO技术现今处于研究的起始阶段,在LTE-Advanced系统中,其有限反馈策略和基站端发送策略尚未确定。论文的第四章提出了两种策略,分别为基于基站端补偿垂直增益和基于用户端补偿垂直增益的有限反馈策略和基站端发送策略。两种策略均采用了LTE-Advanced系统Release10中的2D码本来量化传输波在垂直空间的相位。在这两种策略中,基站端采用了不同的CSI-RS资源配置,3DSINR可以分别在基站端和用户端估算。这两种策略实现过程迥异,各有其优缺点,相比LTE-Advanced系统中的参考策略,均可以显著提高系统频谱利用率。4)为进一步提高用户端的吞吐量,LTE-Advanced系统引入了异构网络技术。相比传统的同构网络,异构网络中用户端受到的同频干扰更加严重,导致了其移动性能恶化。为此,论文的第五章深入分析了用户端移动性能恶化的原因,并提出了两种有效的解决方案,以改善用户端的移动性能。处于异构网络中的用户,在移动过程中,接收到的微小区信号功率和宏小区信号功率变化速度不一致。针对此特性,提出了一种切换小区优化的策略,这种策略能从长期统计特性上,提高用户的移动鲁棒性。另外,为了进一步提高用户端的移动鲁棒性,从另外一个角度分析了移动性能恶化原因,提出了一种基于无线链路质量的切换策略。这种策略可以使用户端更加敏感地触发切换,降低无线链路连接失败率和切换失败率。这两种策略基于两种不同角度,可以相互补充,共同提高用户端的移动鲁棒性。论文对第四代移动通信系统-LTE-Advanced系统的链路自适应技术、多用户MIMO传输技术、3D MIMO技术、异构网络中用户端移动性能进行了深入的探讨和研究,并提出了相应的算法和策略,有效地提高了系统平均频谱利用率和小区边缘用户吞吐量,改善了异构网络中用户端的移动性能。