随着通信技术的蓬勃发展,第五代无线移动通信系统（5G）网络已在全球范围内得到大规模的应用。与第四代无线移动通信系统（4G）相比,5G对通信传输速率、频谱效率（Spectral Efficiency,SE）提出了更高的要求。面向更高SE、更快数据速率的愿景,非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术应运而生。NOMA技术源自于脏纸编码思想,其原理是在发送端,具有不同发送功率的多用户信号在同一资源块内实现混叠;而在接收端,则采用串行干扰消除（Successive Interference Cancellation,SIC）技术,通过功率域上的差异实现多用户信号的检测。相较于传统的正交多址接入（Orthogonal Multiple Access,OMA）方式,NOMA技术允许多用户资源共享,可有效提升系统SE,容纳更多用户接入网络,因此被业界广泛认为是5G的关键潜力技术。另一方面,能量资源受限也是当前无线通信系统所面临的关键问题。5G基站（Base Station,BS）的能耗将是4G基站的3.5倍,如何有效提升系统的能量效率,在单位能耗下传输更多的信息,也是未来移动通信技术研究的关键所在。在这一背景下,基于正交频分复用的索引调制（Orthogonal Frequency Division Multiplexing with Index Modulation,OFDM-IM）技术作为一种可行方案,引起了国内外学者的广泛关注。在OFDM-IM方案中,仅选用部分子载波进行调制信号的传递。而具体哪些子载波被选择激活,则是由待发送信息比特所决定的。也就是说,激活子载波的索引亦携带着数据信息,在接收端通过判断被激活的子载波索引,即可获取这部分数据信息。因此,OFDM-IM在传统调制信号传输的基础上,还实现了部分信息数据的“无功耗”传输。因此,与OFDM技术相比,OFDM-IM显然带来了系统能效的提升。不仅如此,由于OFDM-IM部分空置子载波的特性,也会缓解传统OFDM易受载波频偏等因素的影响问题。然而,在OFDM-IM中空置的子载波无法传输信号,导致了 SE的降低。为进一步提升系统SE,业界提出了双模索引调制的正交频分复用（Dual-Mode Index Modulation Aided OFDM,DM-OFDM）技术。与 OFDM-IM相同的是,DM-OFDM同样利用索引调制（Index Modulation,IM）的方法在所有子载波中选取出了部分子载波。而与OFDM-IM所不同的是,不仅被选中的子载波会传输调制信号,剩余的子载波也并非空置,而是被用来传输来自另一独立符号集合内的调制信号。通过将不同符号集内信号调制到不同子载波上发送,DM-OFDM既保证了所有子载波的“激活”状态,又可通过不同符号集信号间的差异,保持索引携带信息的目的。因此,DM-OFDM可有效提升系统SE,甚至在妥善设置下,超越传统OFDM的吞吐量。这是将IM理念用于SE提升的一种有效方法。面对未来无线通信系统更高SE的需要,基于NOMA与IM的优势,本论文开展基于索引调制OFDM-NOMA空口技术的研究,拟尝试将两个技术进行有机融合,获取兼具两者优势的高频能效率空口解决方案。本文的主要创新点如下:1)论文首先将OFDM-IM引入到下行NOMA系统中,形成了基于单模索引调制的下行非正交多址接入（Single-Mode Index Modulation Aided Downlink NOMA,SIM-NOMA）方案。在该SIM-NOMA方案中,远距离用户（Far User,FU）和近距离用户（Near User,NU）全部采用OFDM-IM技术进行信号的生成。在此基础上,论文重点阐述了 SIM-NOMA的系统模型与接收检测算法。进一步,以两用户为例,对系统平均比特错误概率（Average Bit Error Probability,ABEP）进行了理论分析。蒙特卡洛仿真表明,所设计的SIM-NOMA方案较传统的OFDM-NOMA方案,具有更好的误比特率（Bit Error Rate,BER）性能,且获取的理论推导结果与实际仿真结果相吻合。2)在SIM-NOMA的研究基础上,本文进一步融入双模索引模式,设计了更为灵活的广义 IM-NOMA（Generalized Index Modulation Aided Downlink NOMA,GIM-NOMA）方案。在这一方案中,用户可根据具体容量需求选择不同的IM模式,实现自适应传输。在此基础上,论文利用联合界,推导了所提GIM-NOMA方案的BER性能。最后,蒙特卡洛仿真表明:所推导的性能界与实际仿真结果基本一致;且与SIM-NOMA方案相比,GIM-NOMA方案在相同的SE情况下能达到更好的BER性能。