多输入多输出(MIMO)技术能够极大地改善无线通信系统的频谱效率和通信可靠性，被视为新一代无线通信系统最具竞争力的技术之一。然而，在通信链路两端使用多天线，增加了MIMO系统的复杂度及成本。天线选择技术其核心思想是从所有天线中选择部分性能优越的发送或接收天线进行发送或接收，从而以很小的性能损失换取成本的大幅降低，极大地提高了MIMO系统的性能价格比。作为第一个问世的MIMO实验系统，也是目前最具代表性的一种MIMO系统，贝尔实验室开发的垂直—贝尔实验室分层空时(V-BLAST)系统，以其简单实用的结构和令人瞩目的频谱效率而被3GPP等标准所采用，成为近年来的一个研究热点。　　 本文对本系统的天线选择算法进行了研究，介绍了递增递减天线选择算法并对算法进行了改进，改进的递增和递减算法也是从天线对系统容量的贡献出发，不同的是每次循环中处理两个天线，使得下一次循环的计算量减小。另外，根据分块方阵的行列式计算定理，提出了一种改进的递增天线选择算法。文中还对改进算法进行了仿真，结果表明改进算法在以较低容量损失情况下大大降低了计算复杂度。本文研究第一个MIMO系统——V-BLAST系统，接着具体分析该系统的几种检测算法并仿真其性能，包括迫零(ZF)接收机、最小均方误差(MMSE)接收机串行干扰删除算法和并行干扰删除算法，在此基础上，提出一种改进的串行—并行二阶检测算法，并将其与串行、并行检测算法进行性能比较。通过仿真比较可以看出改进的串—并行二阶检测算法与串行、并行检测算法相比，大大降低了误码率。本文探讨了V-BLAST系统的接收天线选择技术，将提出的改进的串行—并行二阶检测算法应用到V-BLAST系统的接收端天线选择中去，并结合两种天线选择准则即最大最小信噪比(MAX-MIN SNR)准则和最小最大均方误差(MIN-MAX MSE)准则，给出V-BLAST系统的接收天线选择算法及改进算法。仿真结果表明，同时使用改进串行—并行二阶检测算法和天线选择技术所获得的误码率最低。