可见光通信（VLC）是一种将电信号调制到发光二级管（LED）发射的可见光上进行光信号传输的新型技术。该技术是兼顾照明和通信功能的新型无线光通信技术,具有大调制带宽、无电磁辐射和支持信号高速率传输等优点,可广泛应用于室内无线信号接入系统中。因此,在室内环境中研究可见光接入系统中的多阶调制格式具有技术可行性和应用必要性。本文分析了相移键控调制、正交幅度调制和正交频分复用技术（OFDM）调制信号的调制/解调原理;还采用数值模拟仿真实验分析了室内可见光通信链路信道模型,并探索了加性高斯白噪声信道和瑞利衰落信道的传输应用特性;对多阶调制技术在非空室内可见光通信系统中的应用进行了理论分析、仿真研究和部分实验研究。本论文的研究重点是面向瑞利衰落信道、应用QAM/PSK-OFDM多阶调制格式的非空室内可见光接入系统,再分别对不同调制阶数的QAM-OFDM信号和PSK-OFDM信号传输后的星座图进行对比,并分析研究信号的接收性能和对应信号调制后的可见光照度分布情况。研究结果证明,对于QAM-OFDM和PSK-OFDM可见光接入系统,信噪比越高,得到的误码性能也越好;且可见光信号调制阶数越高（系统调制越复杂）,其误码率性能越差;在相同调制阶数和接收信噪比的条件下,单径瑞利衰落信道下的误码率性能低于2径瑞利衰落信道下的误码率;采用QAM-OFDM调制格式的室内可见光系统相较于采用PSK-OFDM调制格式的系统表现出更好的收发性能,其具体体现在误码率性能最优。此外,经过对比研究,8QAM-OFDM可见光信号可以以低于10^-3的误码率在单径瑞利衰落信道和2径瑞利衰落信道中高速通信,经由信道传输后不但具有最好的误码性能和更高的频带利用率,而且能够实现信号的高速稳定传输。最后,通过照度分析验证了仿真实验的可行性。实际应用中的可见光信道往往是复杂的,可见光信号在非空室内的传输过程还将受到自然或人为因素的影响。因此本文得到的结论仅仅是考虑了瑞利信道的影响,今后我们将考虑研究更逼近现实的信道模型,以使得研究结果具有普适性。