随着现代社会对无线通信需求的扩大，人们不断追求更高质量的无线传输速率和服务质量。但无线通信中信号传输的多经衰落效应始终是困扰传输速率和服务质量提高的最大问题。利用多天线(MIMO)技术进行信息传输，不仅可以获得传输分集，有效抵抗多经衰落的影响，提高通信质量，而且还可以极大地提高无线通信容量。但是无线通信系统中的许多用户终端由于受到体积、重量、成本等因素的限制，并不适于多天线技术。协作通信中，单天线用户间通过协作，共享天线，可以实现虚拟的多天线，获得分集增益。网络编码技术从根本上打破了传统通信网络中网络节点对输入信息的处理方式，可有效地增加网络系统的吞吐率和可靠性。当网络编码技术应用于无线协作通信网络时，可进一步改善系统的频谱效率。　　 本文对网络编码、协作通信以及网络编码与协作通信相结合等技术问题进行了深入研究，获得了一些成果。主要内容包括：　　 1.针对多播网络的链路失败恢复问题，从纠删码的编译码思想出发，提出了一种基于网络编码的可靠多播网络系统的构造方法。同时根据网络编码多播的信息流分解方法，给出了一种在较小的编码符号域上构造网络码字的方法，简化网络编码的复杂度。　　 2.设计了一种基于Turbo乘积码的编码协作通信方案。给出了二维Turbo乘积码在两用户协作网络下的码字构造方式，以及用户和基站的编译码方法，分析了该协作方案在瑞利慢衰落信道下的性能。　　 3.提出了一种基于网络编码的自适应编码协作传输分集方案。用户信息在协作用户协助下以不同的码字形式发送给目的基站，通过基站对用户信息译码结果的有限反馈，协作用户对本地信息和中继信息选择性地采用物理层网络编码即信号重叠调制方式进行处理，使得用户发送功率可以在本地信号和中继信号间得到有效的分配。基站对接收到的叠加调制信号采用多用户联合检测和译码。　　 4.针对多址接入中继网络下的无线编码协作，提出了一种基于网络编码的协作混合重传请求(HARQ)协议。中继节点响应基站对两用户信息的重传请求。当两用户的信息都需要重传时，中继节点采用物理层网络编码方式对两用户的增加冗余帧进行合并处理，然后重传给基站。与传统的非网络编码协作HARQ协议相比，该协议需要较少的硬件和带宽资源。