水声通信信号的盲检测与调制识别是非合作接收条件下水声通信信号信息恢复的重要环节,对海洋资源的开发利用以及提升水下侦察预警能力等具有重要意义。传统的基于特征统计量的水声通信信号盲检测与调制识别方法在水声多途信道和复杂分布噪声环境下往往不够稳健,而深度学习方法能够自动提取深层特征并分类,有效降低了对人工领域知识的依赖。但是,该类方法往往要求大量来自待测目标信道条件下的数据对网络进行训练,在非合作接收条件下难以满足。针对上述问题,本文研究了复杂水声信道环境下微弱水声通信信号的盲检测以及小样本和零样本条件下的调制识别问题,突破了复杂海洋环境下信号降噪、训练样本不足或缺失条件下的深度学习网络构建和学习策略设计等关键技术,实现了适用于复杂海洋环境的神经网络盲检测器和调制识别器,并通过了实测信号验证。主要工作如下:1.针对复杂海洋环境下的微弱水声通信信号盲检测问题,提出了一种基于脉冲噪声预处理器（Impulsive Noise Preprocessor,INP）和相对条件生成对抗网络（Relativistic Conditional Generative Adversarial Networks,RCGAN）联合降噪的盲检测方法。该方法首先联合自适应门限INP和RCGAN网络来实现复杂海洋环境噪声抑制,提高待检测信号的信噪比。然后,通过基于卷积神经网络的二元分类网络来提取信号的检测特征,并完成信号的存在性判定。其中,为了提升网络在未知信道和训练样本不足条件下的检测性能,构建了迁移数据模型,有效降低了水声信道对信号检测的不利影响。仿真和实测信号实验结果验证了算法的有效性,该方法对复杂环境噪声具有稳健性,在低信噪比条件下的检测性能优于现有算法。2.针对待测目标信道下仅有少量训练数据可用的场景,提出了一种基于神经网络后融合的小样本水声通信信号调制识别方法。该方法分别构建了轻量高效的注意力辅助卷积神经网络（Attention Aided Convolutional Neural Network,Att-CNN）和稀疏自动编码网络来提取信号的时域波形特征和平方谱特征,并采用后融合策略对两个网络的预测结果加以融合,对多类典型水声通信信号取得了较好的识别效果。此外,采用基于迁移学习的两步训练策略有效缓解了待测目标信道下训练数据不足的问题。仿真和实际信号测试结果表明,该方法对目标信道数据量要求小,对不同水声信道更加稳健。3.针对待测目标信道下完全没有训练数据可用的场景,提出了一种基于多谱图融合的零样本水声通信信号调制识别方法。该方法采用对信道更为稳健的多类别谱估计数据作为神经网络的融合输入,用于降低目标信道特性对信号调制识别的不利影响,使得基于仿真数据训练得到的网络模型在未知信道下也能有效工作。同时,采用注意力机制完成对不同类别谱图有效性的评估和自适应加权,有效缓解了由于个别谱图受信道破坏严重导致整体识别性能下降的问题。仿真和实测信号实验结果初步验证了该方法在实际水声信道环境下具有可行性。