在无线协作中继系统中，多个终端用户相互使用对方的天线发送各自的信号来形成“虚拟天线阵列”，这样构成的等效多入多出(MIMO)系统也具有较高的系统容量和频谱效率。在传统的MIMO系统中，预编码技术是一种被广泛采用的闭环自适应技术，对其研究已较为成熟。基于协作通信系统与MIMO系统的相似性，因此可以很方便的将预编码技术引入到协作中继系统中。本文基于以上背景，首先研究了单中继预编码技术。由于预编码技术要求源节点和中继节点实时获得信道信息，这样会给反馈链路带来沉重的通信负担。鉴于此，本文在Grassmannian码本研究基础上，研究了一种有限反馈中继预编码技术码本设计方案。此码本设计的有限反馈中继预编码方案的系统性能随着反馈比特数的增加接近完全反馈下的系统性能，在相同反馈比特数下的系统容量和误码率优于直接将传统MIMO系统中的Grassmannian码本直接应用于中继预编码的有限反馈方案。此外，本文还研究了多中继预编码技术。在多中继协作系统中，信号通过中继节点转发，由于接收端接收的多个信号存在相位差问题，使得系统容量损失很大。针对此问题，本文给出了联合相位控制的QR分解中继转发策略，并且进一步研究了基于这种联合相位控制QR分解的混合中继转发策略。系统可以选择不同的混合转发策略进行中继转发，从而使得系统总容量达到最优。