目前,非线性信道是普遍存在的,它的特性决定调制方式的选取。非线性信道对传输信号的影响很大,当有包络起伏的信号经过非线性部件处理后,相位和幅度都要发生畸变,频谱产生扩展,进而影响信号的传输质量;信道的非线性特征也是制约其传输效率和功率的关键要素。因此对输入信号的特性提出了更高的要求,系统往往要求已调信号具有恒包络或者准恒包络特性。由此,人们经常在非恒包络或非准恒包络信号后加入限幅器来得到恒包络信号,而限幅器的引入必然会带来基带码元信号的畸变和频谱扩展。本论文的主要工作是针对正交调制系统分析由限幅器所带来的信号畸变和频谱扩展情况,检试在不引入限幅器的情况下,直接采用畸变码元波形实现恒包络调制,探索既能实现频带利用率提升,又峰均功率比(Peak-to-Average Power Ratio)小的调制及解调方法。本研究首先选取sin~2(?t/2T)作为基带码元波形,对加入限幅器后基带码元信号畸变和频谱扩展情况进行分析。为进一步提高频带利用率同时不影响码元速率,选取2倍原码元波形长度的sin~2(?t/4T)作为基带码元波形,同时人为引入码间干扰,得到了该系统的64种畸变码元波形和表达式,以及相邻码元的互相关特性。用所得到的畸变码元波形直接进行正交调制,验证了该方法的正确性。为进一步提高频带利用率,选取具有更高频带利用率的函数sin~4(?t/4T)作为码元信号并设计正交调制解调系统,在不影响码元速率的同时进一步提高频带利用率。本文所采用的方法对分析其他正交调制通信系统限幅器引起的基带码元信号畸变及频谱扩展情况具有借鉴意义。