在现代电子信息战中,随着无线通信技术的飞速发展,各种各样的干扰技术不断被引进,导致电磁环境日益复杂,再加之受实际通信环境所限,侦察方对截获混合信号的调制类型、信道的传输特性、干扰的信息源等先验知识并不知晓,而作为通信侦察任务的需求,首先需要从混合信号中分离出非合作方的信号,然后再对其进行检测、识别。但现有的分离算法均具有很大的局限性,并不能很好地满足通信侦察任务的需求。盲源分离技术的出现,有效地解决了通信信号盲侦察这一技术难题,本文主要研究盲源分离算法及其在通信盲侦察领域中的应用和改进。本文首先研究了正定盲源分离和调制识别技术的基本原理,针对{2ASK、4ASK、16QAM、2FSK、4FSK、2PSK、4PSK、DSB、AM、FM、LSB、USB}12种数字、模拟混合调制信号,提出基于JADE盲源分离和决策树识别的通信信号盲识别技术,该技术首先利用JADE盲源分离算法对截获到的混合信号进行分离,然后利用希尔伯特变换提取信号的瞬时特征信息,并构造出9个特征参数集,最后应用基于决策树识别的分类算法对通信信号进行调制类型的识别,仿真实验证明了利用该算法较好地满足了通信信号的盲侦察任务。然后针对具有部分稀疏性的通信信号,提出基于混合矩阵估计的欠定盲分离算法。该算法根据单源区间角度值的线性聚类特性,构造单源区间角度检索函数实现对单源区间的检索,同时估计源信号的个数;然后选取不同聚类区间上的点作为初始聚类中心,利用模糊C均值聚类算法估计混合矩阵。仿真结果表明,与传统聚类算法相比,该算法能够准确估计源信号的个数,并且在混合矩阵的估计精度和抗噪性方面有了明显的改善。最后研究了盲源分离算法在DS-CDMA通信盲侦察系统中的应用,提出基于FastICA的用户信息码和扩频码盲估计算法,通过MATLAB仿真比较三种检测算法的估计性能,仿真结果显示基于FastICA用户信息码的估计性能明显优于最小均方误差和解相关算法,并且用户数目越少,其误码估计率越小,估计性能越高。同时由于FastICA盲源分离算法不必预先知晓DS-CDMA用户的信息码和扩频码信息就能准确估计出原用户信息,因此它非常适合应用于通信盲侦察系统中。