多输入多输出技术（MIMO, Multiple Input Multiple Output）因其天线间信道相互独立，能成倍地提高系统容量和频谱利用率而在现代移动通信系统中得到了广泛的应用。然而，传统的MIMO系统因其存在较大的天线间干扰(IAI,Inter-Antenna Interference)和子载波间干扰（ICI, Inter-Carrier Interference），接收端需要较为复杂的结构才能实现正确译码，因此一种新型的MIMO传输系统得到了广泛的研究。空间调制技术（SM, Spatial Modulation）利用了天线索引原理将天线位置信息映射成比特数据，在同一时刻仅有一根天线被激活传输调制符号，能有效地降低天线间干扰，并且在接收端仅需较少的天线即可实现译码，在一定情况下有其优势。多用户和多载波技术近年来一直是MIMO系统中的研究热点。一方面，在下行链路中，可以通过接收端联合检测或发送端预处理技术以实现消除用户间干扰，但通常会选择性能与计算复杂度的折衷。另一方面，多载波技术能使每个子载波的信道变为平坦信道，并且因其正交性消除子载波间干扰，但其较高的峰均比一直是亟待解决的问题。本文针对空间调制技术与多用户和多载波的结合展开了研究工作，具体内容如下：第一章简要介绍了正交频分复用系统（OFDM, Orthogonal Frequency DivisionMultiplexing）、传统MIMO系统和SM系统的基本原理和系统结构。随之概述了本文的具体研究内容及结构安排。第二章通过对比传统MIMO系统与OFDM技术的结合，引出了SM-OFDM的基本模型，通过计算机仿真得出了SM-OFDM在某些情况下优于传统MIMO结构的结论。并针对多载波系统中存在的峰均比问题实现了抑制以及性能算法优化。第三章提出了一种新型的多载波空间调制系统结构，利用天线索引以及子载波索引双重信息映射，使得新型SM多载波的数据块较为稀疏，通过计算机仿真验证了其在误码率和峰均比分布上的优势。并且，针对该系统的特点提出了一种复杂度更低的基于最小距离排序的检测算法。第四章研究了多用户的空间调制系统解决方案，一方面在接收端联合检测的情况下介绍了系统模型，并且提出了一种最小均方误差-最大似然译码结合的检测算法以优化接收端复杂度；另一方面介绍了各用户完美反馈信道信息给发送端做预编码的系统模型，研究了迫零，最小均方误差和块对角化三种线性预编码在多用户空间调制系统（MU-SM, Multiple User-Spatial Modulation）的应用，通过仿真验证了MU-SM的性能。最后一章则对本文的研究内容进行总结，概括了研究贡献，并且对未来研究方向进行了一定展望。