认知无线电和雷达电子战的发展对提升复杂电磁环境中调制信号的识别能力提出了重要需求。在复杂频谱电磁环境下,只有充分感知和分析敌方电磁频谱资源的使用情况,才能有针对性地削弱非合作方雷达设备的使用效能,从而在电子战中处于制高点。但是,随着复杂体制雷达的出现,现有的调制识别技术已经不能广泛的适用于不同调制类型的信号识别框架。论文针对复杂电磁环境下雷达信号调制识别系统,围绕时频分析、图像融合和深度学习理论,设计了一种基于时频图像的调制识别算法,深入研究了低信噪比条件下雷达信号调制识别问题。主要研究内容如下:首先,介绍了典型的十二种雷达信号调制类型,分析了其时域、频域特性和模糊性能;探讨了非平稳雷达信号的时频分析手段,研究了低信噪比情况下信号通过减少交叉项分布(Reduced Interference Distribution,RID)分析后的时频效果;阐述了深度学习算法的基本理论,并对本文涉及的深度学习算法进行基本介绍,为后续识别算法的特征提取与识别模块提供了理论基础。其次,针对现有的调制识别技术提取特征困难、低信噪比条件下识别效果不理想等问题,提出了一种基于图像融合和卷积神经网络的调制识别算法。该算法在信号时频分析的基础上,从图像融合理论入手,分析了Karhunen-Loeve(K-L)变换的基本原理,将RID分析得到的不同时频图像采用基于主分量分析的图像融合算法进行融合;简述了卷积神经网络的基本原理,结合迁移学习理论,研究了预训练的Alex Net网络模型,提出了基于时频融合图像和Alex Net模型迁移的雷达信号调制识别算法,解决了小样本训练深层网络难的问题,实现了特征的自动提取,降低了训练复杂度。仿真结果表明,该算法识别效果明显优于传统的人工提取信号特征的识别算法。最后,针对上述所提出的识别算法的优势和存在的问题,在此提出了一种基于融合特征的调制识别算法。该算法基于特征融合思想,分别将基于迁移学习的Alex Net模型和栈式自动编码器作为特征提取器,自动提取时频融合图像的特征;将不同特征提取器提取的特征运用概率主成分分析算法进行降维,最大限度地保留有效信息的同时,去掉对分类决策无用的冗余信息;采用串行特征融合算法对降维后的特征进行融合处理,该过程在保证特征有效性的同时,有效提升了整体的识别成功率。仿真结果表明该算法具有很好的泛化性。