无人机(Unmanned aerial vehicles,UAV)以其能够按需快速部署、高机动性和与地面高概率的实现视线通信链路的独特优势,在无线通信中得到了重要的应用。对于无人机辅助的无线通信,主要用例之一是无人机中继,其中无人机在天空中被部署为飞行的中继,为没有可靠直接通信链路的远程用户之间提供无线连接。在无人机中继通信系统中,合理设计无人机的轨迹以及资源分配,能够最大化系统的吞吐量,提高传输性能。本课题以实际应用场合为研究背景,研究在不同条件下,无人机中继通信系统的最优轨迹和资源分配联合优化算法,由于所形成的优化问题是非凸的,求解难度大,本文提出了一种基于交替优化和逐次凸优化方法的有效迭代求解算法。论文研究内容包括以下几方面:(1)研究了一个多跳无人机中继通信系统,其中源节点将信息通过多个无人机中继以多跳的方式转发到目标节点。研究在无人机移动性和避碰约束、信息因果约束、以及源和无人机中继的平均和峰值发射功率约束的条件下,通过联合无人机轨迹和发射功率优化实现端到端的吞吐量最大化。与仅使用发射功率分配或轨迹优化的三种基准方案相比,数值结果验证了所提出算法的有效性。(2)研究了一个无人机中继辅助回传通信系统,其中信息从回传节点通过无人机中继转发给多个不同用户。研究在无人机移动性约束、信息因果约束、带宽约束、飞行高度约束以及回传节点和无人机中继的平均和峰值发射功率约束的条件下,通过无人机轨迹和发射功率以及带宽分配联合优化,实现用户可达速率加权和最大化。计算机仿真结果显示与仅使用发射功率分配和轨迹联合优化或只优化轨迹的三种基准方案相比,该算法有效提高了系统的用户加权和速率性能。