双向中继网络由于其在扩大网络覆盖范围和提高系统频谱效率方面的潜在优势吸引了学术界和工业界的共同关注。多组多用户双向中继网络是一个非常实用的通信场景,每组用户在中继的帮助下进行双向信息交换。这种场景中存在两类主要的干扰：组内干扰和组间干扰。这两类干扰会使系统的性能严重恶化。因此如何处理两类干扰以减轻干扰所导致的系统性能恶化是一个非常有挑战性的问题。本文针对由单天线用户和多天线中继组成多组多用户双向中继网络中的干扰处理问题展开研究,主要的贡献有：首先,本文研究了两组多用户双向中继网络中的干扰处理问题。所研究场景由两组单天线用户和一个配备有两根天线的中继组成。由于中继天线数目只为单天线用户总数的一半,中继天线数目小于用户总数,因此旨在消除组间干扰的波束成形方案不再适用。为减轻干扰对系统性能的恶化,本文提出了一种联合物理层网络编码和叠加编码的对抗干扰的新方案。所提方案中物理层网络编码可以消除组内干扰,叠加编码可以减弱组问干扰。为充分利用中继的两根天线,中继在广播阶段采用空时编码以获得空间分集增益。为评估所提方案的性能,选择平均和速率和中断概率作为性能指标并对这个性能指标进行了详细的理论分析。仿真结果与理论分析相吻合并表明所提方案的性能优于其他已有方案。然后,本文分析了所提方案在任意组数目多用户双向中继网络中的适用性。当用户组数口增加时,组间干扰也会增加。因此,研究能够减弱干扰从而提升系统性能的方案仍然十分重要。为了验证所提方案在一般多组多用户双向中继网络中是否可用,我们仍然选择和速率和中断概率作为衡量系统性能的指标。理论分析和仿真结果表明所提方案对一般多组多用户双向中继网络仍然适用,可获得比已有方案更好的性能。最后对全文进行了总结,讨论了下一步可能的研究方向。