盲源分离是信号处理中一个传统而又极具挑战性的课题,一般指在源信号不可测及混合系统特性未知的情况下,仅由观测信号分离出各源信号的过程。盲源分离具有重要的理论意义和实用价值,被广泛应用于语音信号处理、阵列信号处理、生物医学工程等领域。联合对角化作为盲源分离中的一类代数算法,根据源信号的统计特性,利用目标矩阵特有的可联合对角化结构估计混合模型中的混合矩阵。这类算法按对混合矩阵是否有正交性约束,可以分为正交联合对角化算法和非正交联合对角化算法。其中,正交联合对角化算法为了满足混合矩阵的正交(酉)性约束条件必须对信号进行预白化处理,这会引入一定的误差,因此无需预白化的非正交联合对角化算法受到越来越多的关注。目前大部分非正交联合对角化只适用于实信号,但实际应用中往往需要处理一些复信号,比如频域语音信号、电磁矢量传感器阵列信号等,为此本文着重研究了能够实现复信号盲分离的复值非正交联合对角化算法,所做工作主要包括：●提出了一种基于Givens和Hyperbolic旋转的复值非正交联合对角化算法。其中,Givens矩阵的求解对应一个正交联合对角化问题,Hyperbolic矩阵的求解则通过拉格朗日乘子法转化为矩阵的广义特征分解问题。仿真实验证明,该算法在目标矩阵为四阶累积量时对复信号的分离精度高于其它几种非正交联合对角化算法。●提出了两种基于LU/LQ分解的复值非正交联合对角化算法。通过矩阵分解将高维混合矩阵分解为上、下三角矩阵和酉矩阵,在此基础上进一步将各矩阵的求解转化为一系列只含一个或两个未知参数的低维子问题。仿真实验证明,这两种算法在目标矩阵较少的不利情况下,比其它几种非正交联合对角化算法分离精度更高。而且,基于LQ分解的算法在噪声较大的情况下仍然能够快速收敛。●在此基础上,针对具有对称性的复值目标矩阵,进一步提出了两种基于LU/LQ分解的复值非正交联合对角化算法。目前适用于这种结构的算法非常少,仿真实验与ACDC算法进行了比较,证明所提算法在分离精度和收敛速度方面均有一定优势。●研究了复值非正交联合对角化算法在语音分离中的应用。在解决了频域算法固有的幅度和排列模糊的基础上,对人工混合语音和真实混合语音进行了分离,实验证明以上提出的五种复值非正交联合对角化算法均能够实现卷积混合语音的盲分离。