MIMO技术作为提高数据传输率的重要手段受到了人们的广泛关注,该技术已成为未来新一代移动通信(4G)的备选关键技术之一。预编码和天线选择是MIMO技术中的两个核心问题。在多用户MIMO下行链路系统中,由于各个接收用户间地理位置的差异,不能通过采用多用户检测技术避免各用户间的干扰。因此,预编码技术是解决无线多用户MIMO系统中多用户干扰的主要方法,同时还可以降低接收机实现的复杂度；天线选择能从MIMO系统基站的多个发射天线中选择出性能最好的天线子集进行发射,或者从MIMO系统的接收端用户的多个接收天线中选择出性能最好的一根或几根天线进行接收。通过减少接收终端中的天线数目,解决在个人移动终端中因天线数量过多造成的接收机过于复杂的问题,从而以很小的性能损失换取成本的大幅降低。因此,通过预编码技术和天线选择技术可以解决MIMO系统中的一些关键问题并提高MIMO系统的性价比,因此这两种技术成为无线通信领域的研究热点。本文首先建立了瑞利平坦衰落信道下和外界干扰为高斯白噪声的环境下的MIMO系统模型；然后,在该系统下,对迫零预编码(ZF)、最小均方误差预编码(MMSE)、信干噪比预编码(SINR)和信漏噪比预编码(SLNR)四种线性预编码算法的应用进行了综述和仿真研究,并对基于信漏噪比的预编码方案进行了改进；最后,对多用户MIMO下行链路系统中比较典型的信道矩阵块对角化线性预编码(BD)进行了研究,并分析了已有经典的天线选择算法,基于对已有算法的理解和总结,提出了一种新的天线选择算法和对次优天线选择算法的改进,考虑在接收端进行用户天线选择,增加系统的空间自由度或降低用户接收机的硬件复杂度。