近年来,随着信息技术的飞速发展、移动通信系统的广泛应用,可利用的频谱资源急剧减少,迫使人们研发新技术来提高信号的带外抑制能力。本文基于最小带外能量辐射准则,提出了最优化码元信号的泛函数模型,在此泛函数模型的基础上,对正交系统中基带码元信号进行了优化,优化后的信号不仅是恒包络的,同时较于MSK信号,频带宽度、邻道干扰以及带外能量辐射均极小,有着极佳的频谱性能。在本文中,首先介绍了基于最小带外能量辐射准则的最优化基带码元信号的数学泛函数模型,采用数值法实现了最优化泛函数模型的近似求解,得到了最优化基带码元信号。并针对傅里叶级数的项数对信号精度影响的问题进行了详细的分析。接着基于此泛函数模型,加上对泛函数模型引入的附加条件限制,实现了全响应系统基带码元信号和部分响应系统基带码元信号的优化,得到了最优化基带码元信号的波形和能量谱密度曲线,与MSK信号进行了比较,所得的最优化信号的频谱特性明显优于MSK信号。对于优化后的系统,均进行了正交调制和相干解调方法的设计,得到了调制、解调以及信号误码率的仿真结果。从仿真结果看出,所得信号相位连续、恒包络并且误码率低,达到了预期目的。