多天线技术因其在提高系统容量和系统分集能力等方面的优越性,越来越受到人们的重视,已成为新一代移动通信技术研究的关键所在。在实际传输环境中,通常存在一些非理想因素,这些因素会导致开环传输系统性能的下降。利用完全信道状态信息的闭环传输系统可以在一定程度上克服这些非理想因素,进而达到最大限度提高多天线系统信道容量和传输可靠性的目的。但是,实际传输系统通常无法获得完全信道信息,特别地,频分双工系统需要通过反馈信道将信道信息反馈给发送端,而反馈信道通常是带宽受限的,因此有限反馈技术便成为新一代移动通信的一个研究热点。本文针对多天线闭环传输系统,结合矢量量化理论,对有限反馈技术进行了研究,具体包括利用时间相关性的树形码本设计及有限反馈方案、非理想情况下的码本设计方法及有限反馈方案、基于欧氏距离度量的码本设计方法、以及异构多用户有限反馈带宽分配方案。　　 研究了利用信道时间相关性的树形码本设计及有限反馈方案设计。首先提出了基于Lloyd算法的树形码本设计方法,接着针对树形码本的特点,结合实际信道的时间相关性,提出了树形码本搜索方案。树形码本搜索可以提高搜索效率,是一种次优搜索方案,树形码本的树状结构会导致最优码字的搜索偏差,但仿真结果表明这种偏差对于性能的影响可以忽略。紧接着针对慢变信道,提出了两种高效反馈方案,树形码本反馈方案和熵编码反馈方案,两种方案都是利用相邻时间间隔上最优码字的相关性来进一步降低有限反馈系统的反馈量。最后通过仿真从误符号率和反馈量两方面对两种方案进行了比较,并研究了保护间隔对于树形码本方案反馈量的影响。　　 研究了非理想信道条件下的码本设计及有限反馈方案设计。首先分析了导频辅助信道估计方法产生的估计误差,在此基础上提出了基于统计信息的码本设计方案,在非理想信道条件下推导了最优波束成形矢量的表达式,并给出了有限反馈系统相应的码字选择准则,针对Lloyd算法复杂度较高的缺点,提出了一种对计算量和存储量要求较低的快速码本设计方法,该方法是一种次优方法,但仿真结果表明该方法可以获得与最优Lloyd算法几乎相同的性能。然后提出了一种信道预测方案,预测采用基于卡尔曼滤波的一阶自回归模型,在该模型的基础上推导了信道均方误差的一般表达式。最后通过仿真比较了上述两种方案克服信道非理想性的能力,并在公平性前提下分析了两种方案各自的适用场景。　　 研究了基于欧氏距离度量的码本设计问题。首先针对传统距离度量的局限,从信道矩阵奇异值分解的旋转不变性和置换不变性出发,提出了一种基于欧氏距离的有限反馈系统码字选择准则,在此基础上定义了一种新的距离度量,接着对传统的Lloyd算法进行了改进,提出了一种针对新的距离度量的码本设计方法。进而将新的距离度量和码本应用到多模自适应预编码系统中,在误比特率最小准则下,提出了一种不同模式下的码字分配方案,给出了模式和码字选择准则的表达式。最后通过仿真分析比较了新的距离度量和传统距离度量在误比特率性能指标下的差别。　　 研究了异构多用户有限反馈带宽分配问题。针对实际系统中不同用户所处的信道环境的差异,提出了自适应反馈带宽方案,在和速率最大的目标准则下,对不同用户的反馈带宽进行优化。首先给出了迫零波束成形多用户有限反馈系统和速率随反馈量变化的近似表达式,在总反馈带宽受限的条件下,利用拉格朗日乘子法求解最优带宽分配,给出了带宽分配的闭式表达式。之后对自适应反馈带宽方案进行了拓展,将特殊类型信道推广到一般信道,利用基于特征模式传输的合并方法,将单天线用户推广到多天线用户。最后通过仿真验证了自适应反馈带宽方案的有效性。