近年来,随着移动终端性能提高、成本降低,互联网服务从个人计算机向移动终端大规模迁移,移动终端数量持续激增；随着流媒体等大数据业务在移动终端的普及和发展,移动数据流量持续激增。有限而宝贵的无线频谱资源面临着严峻的考验。网络编码(Network Coding,NC)技术的提出彻底颠覆了传统的网络传输模式。NC通过在网络中间节点对传输数据进行编码,可以实现网络的最大容量。无线中继网络的中继协同传输特点以及无线广播特性与网络编码具有天然的契合性。将NC技术应用于无线网络能够带来巨大而显著的性能增益。本文以无线中继网络为对象,致力于研究无线中继网络下的高效网络编码技术。本文针对在无线中继网络中进行网络编码面临的算法复杂度问题和无线干扰利用问题,提出了相应的创新性解决方案,并通过理论分析和计算机仿真证明了所提算法的性能。本论文的主要贡献以及成果主要概括为如下三个方面：1)针对网络编码的码字构造,提出了一种低解码复杂度的分段线性网络编码算法。该算法将源节点上的分代数据进一步划分为若干分段,并对同一分段内的编码系数添加一定的约束条件,使得接收端在解码时,可以将对一个秩较大的矩阵的求逆运算分解为对若干秩较小的矩阵的求逆运算,实现降低解码复杂度的目的。分别针对集中式网络及分布式网络,提出了两种基于分段线性网络编码算法的编码系数选取策略,实现了减少冗余数据开销的目的；通过分析和仿真验证了所提方案的性能。2)针对复数域网络编码,提出了一种基于最小欧氏距离最大化准则的最优预编码算法。基于等效叠加星座,对复数域网络编码的解调性能进行最优化建模；寻找使该星座中的星座点之间的最小欧氏距离取最大值的预编码算法；当源节点采用M-PSK调制且源节点数量为2时,推导了最优预编码系数的表达式；当源节点数量大于2时,通过数值仿真给出了相应的最优预编码系数；此外,通过仿真比较并验证了所提方案的性能。3)提出了一种可实现可靠性与有效性联合最优的联合网络编码调制技术。证明了如果将各发送节点上的调制星座分别旋转适当角度,接收节点上的等效叠加星座中的星座点将聚集成簇,且同一簇中的星座点对应的源发送符号的线性和相同；利用这一性质设计了对叠加信号的分层解调,从而接收节点能够根据信道状况自适应调整接收速率；对于(N,1,1)及(N,NR,1)两跳中继网络,分别考虑了源节点与目的节点之间不存在及存在直达路径的情况,给出了基于联合网络编码调制的线性独立预编码机制及相应的传输策略；通过分析和仿真验证了所提方案的性能。