随着小型无人机功能越来越强大,“黑飞”“滥飞”现象层出不穷,因此无人机监管问题成为重中之重,而无人机目标检测就成了首要任务。雷达探测技术仍然是目前应用最广泛的方法,基于主动雷达的探测方式,设备成本较高,电磁污染严重,对于检测无人机等“低慢小”目标还有很多不足。为此本文提出了基于外辐射源雷达的小型无人机检测方法,重点研究了循环谱和深度学习网络来检测回波信号中无人机微动特征的性能。为了有效检测无人机目标,本文对以上方面进行了深入研究:（1）推导了外辐射源雷达信号传播模型,并介绍了地面数字多媒体广播（Digital Terrestrial Multimedia Broadcast,DTMB）标准及信号模型,同时分析了旋翼无人机微动模型,为后续无人机微动特征检测识别的研究提供了理论依据。然后利用传统时频变换方法研究直达波信号与无人机目标回波信号的时频特征,并仿真分析了直达波信号对无人机目标回波信号时频图的影响,以及时频变换方法的抗噪性。（2）在外辐射源雷达回波信号模型的基础上,提出了一种基于循环谱的无人机检测方法。首先推导了模型中各成分信号的循环平稳特性,并分析了无人机回波信号与其余信号在循环谱上的差别,接着提取了各信号的循环谱等高图作为检测目标,然后利用上述差异引起等高图上能量分布上的不同,进行无人机检测。仿真结果表明,通过比较等高图灰度值的大小,能分辨是否有无人机存在,并且在不进行直达波与噪声抑制情况下,也能达到检测无人机的目的。实验结果验证了上述方法的有效性。（3）提出了一种基于权重不可知神经网络（Weight Agnostic Neural Networks,WANNs）的旋翼无人机检测方法。该方法作为循环谱检测无人机方法的展开,主要研究了神经网络用于运动状态下无人机的检测性能。首先介绍深度学习网络的相关概念和基本结构;然后,详细说明了WANNs模型的构建过程;接着,以回波信号的循环谱等高图作为训练、测试数据集;最后,仿真结果表明该方法对噪声有较好的鲁棒性。同时实测结果也验证了WANNs模型能有效识别各飞行状态下无人机微动特征,具有较好的图像识别能力。