传统地面基站通信易受到障碍物的影响,路径衰落强,覆盖距离短。无人机通信是将基站搭载至无人机,为地面用户提供无线通信服务或为其它无人机基站提供中继服务的通信技术,具有灵活性和移动性的特点。无人机基站可灵活地利用直射路径,降低路径衰落,是目前提高通信质量的重要手段之一。本文针对无人机基站能量受限的问题,将非正交多址接入技术与无人机通信结合,深入研究无人机通信系统的通信模型、用户配对策略以及用户通信性能。为了提升无人机通信系统的频谱效率和能量效率,通过构建基于非正交多址接入的无人机通信系统模型,采用顺序统计学和随机几何学的理论,对不同通信场景、信道状态、天线数量以及用户数量的无人机通信模型的系统性能进行研究。论文的创新性工作如下:（1）针对无人机通信机载能量有限的问题,建立了基于非正交多址接入的空对地通信模型,提出了一种基于顺序统计学的无人机空对地通信系统的性能分析方法。根据统计学的用户配对策略,分析了空对地通信系统中地面用户中断概率、总速率中断概率以及系统中断概率等通信性能。理论分析和仿真结果表明,基于顺序统计学的用户分集增益与用户序数和信道衰落系数的乘积相关,总速率分集增益与强用户的用户序数和信道衰落系数的乘积相关,该方法可准确地分析无人机空对地通信系统的性能。为了解决基于顺序统计学的用户配对策略复杂度高的问题,提出了一种基于随机几何学的无人机空对地通信系统的性能分析方法。设计了一种利用迫零编码的预编码矩阵和检测向量,分析了空对地通信系统中地面用户的中断概率和遍历速率等通信性能。理论分析和仿真结果表明,在高信噪比的情况下,地面用户分集增益与信道衰落系数和天线数量无关,且全部为1;近用户和远用户的高信噪比斜率分别为1和0,该方法可近似地分析无人机空对地通信系统的性能。（2）针对传统蜂窝网用户关联方法不适用于无人机空对地蜂窝网用户关联方法的问题,建立了基于非正交多址接入的空对地蜂窝网通信模型,提出了基于随机几何学的空对地蜂窝网应急通信系统和负载迁移通信系统的性能分析方法。设计了一种基于随机几何学的用户关联策略,分析了在非理想连续干扰消除情况下,空对地蜂窝网通信系统地面用户的覆盖概率性能。仿真结果表明,负载迁移通信系统受非理想连续干扰消除的影响大,当非理想连续干扰消除系数为0.5时,地面用户的覆盖概率为0,不能正常工作,但在高信噪比的情况下,应急通信系统受非理想连续干扰消除的影响可忽略不计。（3）针对无人机空地一体化通信系统性能分析复杂度高的问题,建立了基于无人机的空地一体化通信模型,提出了一种基于无人机的空地一体化通信系统的性能分析方法。设计了一种基于三维随机几何学的用户配对策略,分析了基于无人机的空地一体化通信系统在不同衰落信道的用户中断概率和遍历速率等通信性能。仿真结果表明,概率直射信道可近似为信道衰落系数最低的信道,验证了传统衰落信道用户通信性能分析方法的正确性。（4）针对受限的频谱资源不能满足无人机用户和地面用户数量增加的问题,建立了基于地面基站的空地一体化通信模型,提出了一种基于地面基站的空地一体化通信系统的性能分析方法。设计了一种基于几何学的用户配对策略,使任意数量的非正交多址接入用户可同时共享相同的频谱资源,分析了基于地面基站的空地一体化通信系统地面用户和无人机用户的覆盖概率。理论分析和仿真结果表明,当采用连续干扰消除技术时,产生误差传递现象。本文围绕无人机空对地通信模型和无人机空地一体化通信模型,综合考虑了基于顺序统计学和随机几何学的非正交多址接入用户配对策略。从基础的单小区无人机空对地通信系统性能分析,深入研究蜂窝网空对地通信系统性能分析,同时关注了基于三维几何拓扑结构的无人机空地一体化通信系统性能分析,纵深研究了支持海量接入的无人机空地一体化上行链路通信系统性能分析,丰富了相关模型的通信系统性能分析理论。