本论文致力于混合信号盲分离技术研究,主要研究了欠定条件下的混合多源信号盲分离和卫星单通道PCMA信号盲分离两个方面的内容,其中后者是本文的重点。本文工作受到国家863和总装9201重点工程项目的支持。盲信号分离的任务是从接收到的多源混合信号中分离出其中所包含的源信号。作为一种快速发展的新兴信号处理技术,目前已在通信信号处理,语音信号处理,医学信号处理等诸多领域得到广泛应用,但仍然面临一系列亟待解决的关键技术难题。欠定盲源分离是一个比较困难的问题,领域内研究较多并已比较成熟的欠定盲分离算法通常都需要利用源信号的稀疏性,对于稀疏性较差的情况则效果不理想,尤其是对源信号个数的估计,因而直接影响整体分离效果。卫星单通道PCMA信号盲分离则是欠定盲信号分离的一种特殊情况。由于频带复用而提升的功率带宽综合效益,以及很强的抗截获性能,近年来这类信号的应用飞速增长。PCMA信号盲分离是一个理论性和实践性都很强的重大技术难题。近年来领域内开展了大量研究,取得一系列重要成果。其中综合性能较好的主要是粒子滤波和逐幸存路径处理(PSP)两类算法,其中PSP算法因较低的运算量而更占上风。但现有PSP类算法仍存在两个重要问题。一是运算量仍然很大,难以在现有硬件平台上付诸实施；二是系统内在的软信息利用问题,算法的综合性能仍有较大提升空间。本论文工作正是在上述背景下确立展开的。论文首先对盲信号分离的基本理论、主要算法和应用做了分析讨论和总结。在此基础上针对基于信号稀疏性的欠定盲源分离和卫星单通道PCMA信号盲分离算法存在的上述主要问题给出了若干改进算法,并用仿真实验结果验证了所提算法的可行性和有效性。本论文取得的创新性成果概括如下：1.在主要针对语音信号的欠定盲源分离方面：针对弱稀疏性情况提出了一种改进算法。该算法提出了利用单源区间对观测信号进行预处理,去除非单源区间的点,再通过改进的K-均值聚类方法来估计源信号个数,进而估计出混叠矩阵。这种方法相对于直接对观测信号进行处理的算法估计精度高,而且在对单源区间中数据统计概率分布曲线图时,只需要很少次数的滤波就能够得到比较光滑的曲线,易于通过峰值检测寻找局部峰值得到源信号个数,从而降低了算法复杂度。仿真实验表明与常规聚类算法比较,该算法复杂度较低,估计精度有显著提高。2.在PCMA信号盲分离方面：(1)提出了一种更适合PSP实现的基于前馈非二元码的SOVA-PSP分离算法。该算法解决了传统PSP算法不能输出软信息的问题。仿真结果表明,在综合利用信道译码的基础上,与现有硬判决算法相比,总体性能获得了2dB左右的增益。(2)提出了一种基于最大后验的BCJR-PSP算法,解决了SOVA-PSP算法中结尾部分点可靠性较低的问题。仿真实验表明,该算法与现有SOVA-PSP相比,性能明显提高。(3)提出了一种基于单路定时准确的低复杂度盲分离算法,要求在对混合数据采样时,对准其中的一路信号进行采样,使得该路信号不存在码间干扰,从而使得网格图的状态个数由M2(L-1)变为M(L-1)(其中M为调制阶数,L为等效信道响应长度),从而简化了分离模型,很大程度的降低了PSP算法的复杂度,使得PSP算法朝工程实用化方向更近了一步。仿真结果表明,改进的算法在降低复杂度的同时与传统PSP算法相比性能几乎没有损失。(4)提出了一种基于CHASE译码思想的新的PCMA信号盲分离算法。该算法对PSP软输出的结果进行可靠性排序,对于排序中可靠性较低的混合符号进行信号重构,通过重构信号和接收信号之间的欧式距离对比纠正其中的错误结果。仿真结果表明,该算法与现有SOVA-PSP算法相比,有2dB左右的性能增益。(5)提出了一种基于MCMC算法思路的新的PCMA信号盲分离算法。该算法利用吉布斯采样获取源信号重要采样值序列集合,并通过该集合计算源信号的后验对数似然比,避免了遍历源信号序列,降低了算法复杂度。进而对MCMC算法做了改进,通过多个符号联合更新的算法提高了算法的收敛速度。仿真结果表明,该算法相对于PSP算法,当两路信号时延差在2/8T附近时,性能上有1dB左右的增益。