通信信号的盲分离是盲信号处理研究领域的一个重要方向,在通信信号侦测、无线频谱检测和管理等方面有重要应用价值。随着无线通信技术的快速发展和广泛应用,频谱资源日益紧张,电磁环境日趋复杂,在非协作接收通信信号的环境下,单个天线接收到多个多个通信信号的情况越来越普遍,这给通信信号处理和信息获取带来了挑战。由于单通道接收到多个通信信号往往是在时频、频域上是互相重叠的,传统的时域或者频域滤波方法无法分离此类信号,因此对此类信号的盲分离或者盲提取方法进行研究具有重要的理论意义和实际应用价值。本论文的工作主要着重于研究适合实际应用的单通道时频混叠通信信号的盲分离方法和实现算法。首先研究了单通道混合通信信号的调制识别和信号个数估计问题,该问题是后续信号分离的基础；然后,针对同符号率数字通信信号混合和不同符号率数字通信信号混合两种信号混叠方式,分别进行盲分离算法的研究。主要工作及贡献如下：1)提出了一种基于循环频率检测的单信道多信号调制识别和信号个数估计方法。针对单信道同时接收到多个时频重叠的数字通信信号的应用场景,通过分析数字调制信号的二阶和四阶循环累积量的循环频率特性和结构特征,利用不同调制信号的循环频率特征差异,实现了对分量信号调制方式的识别和信号个数估计,其不需要知道各分量信号个数、功率、载频、符号率及定时等先验信息,具有很好的实用性。同时,研究了对分量信号的频偏和符号率的精确估计方法,其基本思想是将符号率和载频估计问题近似为正弦信号的频率估计问题,利用内插法对基于谱线的符号率和载频估计值进行修正,显著地提高了估计精度。2)针对单信道接收两路时频混叠通信信号的场景,提出了两种不同的时延估计方法。首先,在成形滤波器和信道衰落已知的条件下,通过循环统计量得到时延估计的闭式解：其次,在成形滤波器和信道衰落未知条件下,利用两组循环自相关函数,构建关于时延参数的线性方程组,通过解线性方程组获得两个信号时延的闭式解；最后,分析了的时延估计的克拉美罗界。3)对于同符号率数字通信信号混合场景,提出了一种基于格基规约和判决反馈的信号分离方法。通过过采样后的数据建立虚拟多通道模型,并利用该模型的特殊性,引入判决反馈机制,即将虚拟多通道信道矩阵分为前馈部分和反馈部分,通过对前馈部分进行格基规约辅助的SIC检测,该算法获得了接近最大似然符号检测方法的性能,同时其复杂度得到了很大程度的降低。4)对于不同符号率数字通信信号混合的盲分离问题,提出了基于周期时变性的盲分离方法。首先根据分量信号的符号率差异性,利用符号率处的循环统计量实现了对分量信号参数的精确估计。其次,分析了接收信号波形序列与两路信号符号间的线性关系,建立了周期时变虚拟多通道线性模型,在此基础上利用格基规约辅助的SIC检测算法实现了对不同符号率的数字通信信号有效分量。5)设计并实现了一个单通道时频混叠数字通信信号盲分离的实验验证系统,对本文提出的算法进行了实验验证和性能测试,表明了本文提出的方法的有效性。