近年来,随着无人机技术的迅速发展,无人机的“黑飞”问题对低空安全构成严重威胁。为此,需要研究对无人机进行监管的技术手段和方法。一种成本较低的探测手段是利用被动接收机截获无人机辐射的图传信号,然后对其进行检测和识别的无线电频谱监视手段,即被动探测手段。但电磁环境越来越复杂,各种电磁环境噪声和各类工业、通信电磁干扰对被动探测影响很大,除此之外无人机图传信号的调制方式越来越复杂,对调制识别提出了新的挑战,不仅需要实现调制方式的传统闭集识别,更需要解决调制方式的开集识别问题。为了实现无人机的远距离探测,检测识别方法对于低信噪比要具有适应性。因此本文对无人机信号检测与识别的研究,主要围绕无人机信号的检测、无人机型号的识别和无人机信号调制方式的开集识别问题展开研究。论文的主要内容如下:（1）基于更快的区域卷积神经网络对无人机信号进行检测的研究。基于更快的区域卷积神经网络,对无人机信号经过短时傅里叶变换得到的时频图特征进行学习,学习带标签的无人机信号和背景环境信号的分布特征,从而实现对时频图中无人机信号的检测,而且在低信噪比的条件下依然具有不错的检测性能。（2）基于Alex Net对无人机信号进行无人机型号识别的研究。利用无人机实测信号进行无人机型号识别时,基于Alex Net设计神经网络,使得网络模型能够对各型无人机实测信号的频谱图特征进行自主学习,实现了对多种无人机的型号识别,而且对低信噪比具有非常好的适应性;为了降低计算量、提高识别速度,利用无人机实测信号被抽取后的降采样信号进行无人机型号识别时,设计的全连接网络也实现了识别功能,在低信噪比时仍有不错的识别性能。（3）基于自编码器和生成对抗网络提出重构判别网络,对无人机信号调制方式实现开集识别的研究。当无人机信号的调制方式是已知调制方式时,本文基于神经网络算法解决了调制方式的闭集识别问题,并讨论了信噪比对闭集识别的影响;当无人机信号的调制方式是未知调制方式时,本文基于自编码器和生成对抗网络提出重构判别网络模型,解决了对调制方式的开集识别,同时该模型也能实现对已知调制方式的准确识别,对信号低信噪比具有适应性。