在无线通信领域中,协作通信技术(Cooperative Communication)利用网络中闲置的天线作为中继,形成分布式虚拟天线阵列(Distributed Virtual Antenna Array)。利用中继在不同时间内传送相同的数据,获得更多的分集增益。与传统的多输入多输出(Muhiple-Input Multiple-Output,MIMO)系统相比,协作通信系统对通信设备的天线数目要求更低。另一方面,可以通过将物理层传输技术、网络编码技术和中继调度策略等理论应用到协作通信系统的信号传输过程中以降低系统的中断概率,获得更好的系统性能。　　 本文针对协作通信中的一些关键技术进行了深入探讨。对与协作通信系统性能相关的信号处理机制、系统性能评测方法和编码方案等内容进行了研究。本文主要研究成果如下:　　 (1)在单信源多中继单信宿模型中,提出了一种基于中继调度策略的直接放大中继协议(Relay Scheduling Amplifying-and-Forwarding,RS-AF)和一种基于中继调度策略的解码中继协议(Relay Scheduling Decode-and-Forwarding,RS-DF)。推导出两种协议下系统的中断概率、吞吐量与信号传输质量折中(Throughput-Reliability Tradeoff)和误帧率表达式。利用TR对系统的中断概率随帧长及传输速率的改变而产生变化的趋势进行了预测。通过对系统误帧率的分析,发现在不同帧长下误帧率曲线均存在一个临界点,并利用TR成功的阐释该现象出现的原因。仿真结果表明,与采用传统中继协议的系统相比,采用RS-AF协议和RS-DF协议的系统具有更低的中断概率,系统性能更优。利用TR进行的预测与实际情况相吻合。　　 (2)在两信源单中继两信宿模型中,提出一种基于网络编码技术的直接放大中继协议(Network Coding Amplify-and-Forward,NC-AF)协议和一种基于网络编码技术的解码中继(Network Coding Decode-and-Forward,NC-DF)协议。推导出采用NC-AF协议和(NC-DF协议的系统的误帧率、中断概率和分集复用折中表达式。运用分集复用折中对系统性能进行了分析。以误帧率最小化为目标提出了系统功率最优分配方案。仿真结果表明,与采用传统中继协议的系统相比,采用NC-AF协议和NC-DF协议的系统具有更低的系统中断概率。随着复用增益的增加,与采用NC-DF协议相比,采用NC-AF协议的系统,将获得更多的分集增益。提出的系统功率最优分配方案与实际情况相吻合。　　 (3)在两信源多中继两信宿模型中,推导出采用NC-AF协议和中继调度策略的系统的误帧率表达式和中断概率表达式。通过对误帧率的分析,得出系统没有达到满分集增益这一结论。针对这一问题,提出了分离式预编码方案和分布式预编码方案。仿真结果表明,与采用传统中继协议的系统相比,采用NC-AF协议的系统具有更低的误帧率和中断概率。与分离式预编码方案相比,分布式预编码方案能为系统提供更多的分集增益。　　 (4)在多信源单中继单信宿模型中,提出多边LDPC编码方案。该编码方案利用码字内码元间固有的相关性,通过不同的中继发送上层图中码字的不同部分,获得分集增益。在不增加系统带宽、发射功率和系统复杂度的情况下,显著地提升了系统性能。在对系统码率和互信息的分析上,推导出搜索标准。确定了相应边上的变量节点集合和校验节点集合在上层图和下层图的最优分布。仿真结果表明,相比于传统的LDPC码设计方案,多边LDPC设计方案能够为系统提供更多的外部互信息,从而使系统的信道容量达到更高的阈值。　　 最后在总结全文工作的基础上,给出了本文后续需要进一步探讨的一些问题。