如今，无线互联网得到迅速发展，人们对数据业务的要求越来越高，更大的数据量更快的数据传输速度对无线通信技术都提出了更高的要求。但无线信道存在衰落和覆盖范围的问题，很多情况下数据的传输需要在中继协作的帮助下才能完成。2000年，R.Ahlswede率先提出了网络编码的概念，其利用中继对转发的数据进行编码处理，有效的提高了数据的交换效率。2006年，香港中文大学的Zhang等人，在网络编码的基础上发展出物理层网络编码，将网络编码的概念应用到物理层中，巧妙的利用无线信道自身的叠加特性，提高了系统的吞吐量。本文首先介绍了网络编码的由来和发展现状，给出了三种传统的中继协作模式，并讨论了其各自的优缺点。然后，详细说明了网络编码的模型及常见网络传输模式。在网络传输模式的比较中，可以看出物理层网络编码相对传统的传输方式和直传网络在中继的交换效率上有明显的提升，相对传统的传输模式更是有100%的提升。由于有线环境与无线环境在信号传输方面的不同，物理层网络编码在不同环境对信号的处理方式也不同，文章对两者的不同做出了说明并提出了本文重点研究的无线通信中的物理层网络编码方案。低密度奇偶校验码（LDPC）是能够逼近Shannon容量限的信道编码码，具有如译码具有线性时间复杂度、长码时性能甚至超越Turbo码的优点，使得低密度校验码的研究成为信道编码的研究热点并被越来越多的应用在实际系统中。本文将物理层网络编码与信道编码进行联合设计，利用信道编码的纠错功能尽可能的提高系统性能，由于LDPC码的优良性能，故选用LDPC码作为信道编码。最后，分别针对低阶调制和高阶调制提出了联合设计方案的系统模型，并详细推导了联合译码方案的映射方式和译码算法。在低阶调制下，系统的吞吐量得到了明显提升，并且性能下降微小。在高阶调制下，系统在保证吞吐量的情况下，进一步提高了信道容量。仿真结果表明，基于物理层网络编码与LDPC的联合设计方案相比传统的中继方案能够有效提高中继协作系统的在协作效率，吞吐量和信道容量方面的性能。