近些年来,移动互联网正以前所未有的速度进入我们生活的每一个角落。为了满足爆炸式增长的各种应用所带来的对无线业务的需求,尤其为了突破频谱和功率等资源的稀缺性对无线通信进一步发展的限制,多天线技术应运而生。通过增加了空间自由度这一特性,多天线技术可以有效的提高信道的可靠性,或是频谱的利用率。而反馈技术和预编码技术的引入,更大幅增加了系统多信道变化的自适应能力。不同的系统,由于天线的配置、系统工作的频段、用户的移动速度等等因素有着截然不同的反馈能力,因此如何针对系统的反馈特性设计合适的预编码策略成为一个关键的问题。本学位论文对不同场景中的反馈方法设计、预编码矩阵构建和资源优化等问题进行了深入的研究,并提出了一些创新性的策略,主要内容包括以下几个方面：研究了多天线双向中继系统中的预编码网络编码技术。首先研究了双向中继系统的特点,由于装备了多天线的双向中继系统除了能与传统双向中继系统一样进行网络编码外,还可以同时进行预编码。通过提出了一种在双向中继系统中同时使用网络编码和预编码的编码方法,可以大幅增强系统的性能。此外,还根据用户和中继都通过信道互易来获得信道信息这一条件,设计了预编码、网络编码联合优化方法,并通过优化算法快速迭代出最佳编码矩阵。从而,为多天线双向中继系统提供了一套基于预编码、网络编码的联合优化策略。研究了多天线认知系统中合作感知和信道反馈折中技术。首先分析了认知无线电系统的重要性能指标,分别为抑制对主用户的干扰和增强从用户系统性能。在多天线认知系统中,传统的方法依赖于信道反馈,从而增强从用户的系统性能,我们提出在反馈中引入感知信息的方法,在从用户收发对间引入合作感知,利用本用于增强从用户系统性能的反馈信道来增强对主用户的干扰抑制。然后我们针对有限反馈信道的特点,分析了比特量化对于信道信息和感知信息的影响,最后设定了一个优化目标,从而提出了将有限比特用于信道信息和感知信息的折中分配策略,并且发现,在相同的反馈信道下,这种同时反馈信道信息与感知信息的方法相比传统仅反馈信道信息的方法不但保证了从用户的系统性能,还能降低对主用户的干扰。研究了多天线空间调制和空时分组码折中的问题。首先对空间调制这一新技术进行了分析,虽然空间调制技术有着相同频谱效率下误码率低、发射机结构简单、复杂度较低等优点,但是由于其严重依赖信道间的不同而在信道有相关性的条件下性能急剧恶化。然后着我们提出一种方法,通过反馈信道让发射端在空间调制和空时分组码间进行切换从而让系统自适应不同相关性下的信道。此外,我们还提出一种基于最小欧氏距离的选择策略,可以让接收端使用较低复杂度选取适合的发射端策略,从而在两种方法之间取得了很好的折中。研究了多天线系统中自适应空时编码技术。首先考虑设计一种在快速变化信道、发射端未知信道状态信息下的空时编码技术。然后利用无速率码的思想,在每个时隙随机编码并发送,接收端则通过合并每个时隙的信号来联合译码,在收到一定量的信息后,译码成功并反馈一比特信息告诉发射端已传输正确。此外,我们还提出了一种随机预编码的设计准则,通过该准则来设计随机矩阵,使得信道的等效信道增益拥有最小的方差,可以在联合译码时拥有最优的性能,并且能自适应信道。