无速率编码与协作中继技术是近年来无线通信技术研究的热点,它们对无线通信系统的传输可靠性、高效性以及系统鲁棒性等性能都有明显的提升。一方面,无速率码的前向递增冗余、自适应信道传输以及极少反馈等特性使其能自适应逼近信道容量传输,而无需引入重传机制,既简化了系统信令设计,又在保证可靠性的同时提高了系统吞吐量。设计一类性能良好的无速率码,是无速率编码研究的重点。另一方面,协作中继在提高数据速率、频谱效率、能量效率等方面都表现出其显著的优势。将无速率码与协作中继结合,联合发挥其各自的优势,可以带来系统性能的进一步提升。本学位论文主要从无速率码的编码设计及其在双向中继系统、缓存中继系统中的应用等方面展开研究,并提出了一些新的编码设计方法与传输协议,主要研究内容可概述如下：我们研究了一种典型的无速率码——Raptor码在二元输入加性高斯白噪声信道下最小化译码复杂度的度数优化设计。由于Raptor码的度数分布对其码率与译码复杂度等性能起着决定性影响,我们期望设计一个最优的度数分布在不损失太多码率性能的条件下最小化译码复杂度。基于联合置信度传播译码框架,我们将译码复杂度定义为每恢复一个信息比特所需的运算量。在该定义下,译码复杂度与译码迭代次数成线性关系,因此,我们进一步通过对Raptor码的外信息传递渐近分析推导得到译码迭代次数的近似表达式,得到译码复杂度的闭式数学方程。从而,我们以度数分布为优化变量,以最小化译码复杂度为目标,以译码收敛条件、启动条件和稳定条件为约束条件,加上考虑码率-复杂度折中的码率约束条件,建立了最小化译码复杂度的数学优化模型,并提出了求解方法。数值仿真结果表明,优化得到的度数分布确实显著降低了Raptor码的译码复杂度而不损失太多误码率性能。在本论文的第二部分,我们研究了无速率码在双向中继系统中的应用,提出了一种基于端到端联合编码的物理层无速率网络编码方案。我们考虑两时隙的中继传输方式,即两个源端节点在第一时隙进行无速率编码发送,中继节点进行逐符号的物理层网络编码后在第二时隙进行广播转发。对此双向中继系统,我们从端到端的角度将双向中继信道等效为带理想信道边信息的端到端等效信道,并基于此端到端等效信道提出了一种新的端到端解调器。不同于传统的点对点解调器,该解调器同时考虑了链路噪声与中继节点作物理层网络编码时可能的映射错误,从而增强了系统可靠性与吞吐量。从信息论的角度出发,我们进一步从端到端等效与级联等效两种方式分别推导了物理层网络编码双向中继系统的理论吞吐量,并作为我们提出的端到端解调器的可达速率上界。仿真结果表明,与传统的点对点解调器相比,端到端解调器在误码率与吞吐量性能都取得了显著的提高。最后,我们进一步将无速率码引入半双工缓存中继系统,提出了一种新的无速率编码机会式中继传输协议。一方面,无速率码的采用使得各发送端可以自动调整编码码率以自适应链路信道状态传输；另一方面,通过在中继节点处引入缓存队列用于消息包的存储,增加了系统的自由度,为缓存中继系统在直通链路不可用时仍然获得系统吞吐量增益提供了可能性。在无速率编码机会式中继传输协议下,中继节点在每次传输前首先根据两个通信链路的瞬时信道状态信息以及缓存队列状态进行自适应链路选择,然后被选择的发送端完成消息包的无速率编码发送。采用先入先出排队模型,我们分别设计了无限缓存与有限缓存中继系统的最优无速率编码机会式中继传输协议,并分析推导了系统的吞吐量与端到端平均时延性能。特别是在有限缓存中继系统下,我们基于无速率编码的包衰落模型对缓存队列进行马尔可夫链建模与分析,得到排队系统准确的数学分析,并以端到端平均时延限制作为实际业务服务质量约束,进行了机会式中继的最大吞吐量传输优化设计。系统仿真结果表明,机会式中继传输协议获得了显著的吞吐量增益,验证了所设计协议的高效性。