研究表明，MIMO系统通过空间分集增益和空间复用增益，能够极大地提高无线通信系统容量和性能，因此MIMO系统越来越受到关注。但是如果发射端未知信道状态信息（Channel state informatioN, CSI），则不能通过预编码或者波束成形技术进一步提高系统容量和改善性能。相反，如果发射端能够获取理想的CSI，则能够通过预编码和波束成形技术实现完全的分集增益和编码增益。然而，要获得理想的CSI需要很大的反馈量，这在带宽受限的反馈链路中很难实现。因此，一种较为可行的方法是首先通过接收端信道估计，然后反馈不完全的CSI，发射端预处理CSI。和理想的情况相比，系统容量和性能虽然有一些损失，但是仿真表明，只需要反馈非常有限的信息，就能够接近理想状态下的系统性能　　 本文首先介绍了MIMO系统的模型和信道容量，并且以CSI为基础，介绍了CSI对单用户MIMO系统容量和多用户MIMO系统容量的影响和有限反馈的获取方式。　　 第三章主要研究单用户MIMO系统中码本设计。码本设计可以等价于在一定准则下的最优解。接着介绍了码本设计中最优解的基本解决方案即Grassmann流形问题和离线求解最优解的Lloyd算法。针对Grassmann码本设计没有反馈功率分配信息的缺点，本章研究了一种联合复用和功率分配的码本设计方法，并且以上述方法为基础，根据Grassmann流形中子空间包的设计原理，运用Lloyd算法，设计了在最小均方误差准则下码本设计的详细步骤。　　 第四章中主要研究多用户MIMO系统中基于随机波束成形的有限反馈。在多用户MIMO系统中，如果使用信道量化，反馈量随着用户数量的增加而增加，而且量化误差还会引起用户间干扰。机会波束成形技术使用多天线产生随机波束，反馈SINR给发射端，减少了反馈量，而且算法简单，容易实现。本章主要研究了基于D-TDMA的随机波束成形技术和基于OSDMA的随机波束成形技术。在D-TDMA的随机波束成形中，主要研究了只反馈部分CSI时如何逼近MIMO广播信道的容量限。而在OSDMA随机波束成形中，主要通过仿真对比研究了如何在不增加反馈量的前提下，使用天线线性合并技术，提高系统的多天线增益，增加系统容量。最后，本文研究了一种改进的带波束选择的OSDMA技术，优化了随机波束产生的方法，进一步提高了系统性能。