盲源分离(Blind Source Separation,BSS)是指采用相应算法对接收到的多路混合信号进行重构或者从中分离出原始信号的一种信号处理方法。其中,瞬时盲源分离存在收敛速度与稳定性相矛盾的问题,尤其是基于智能算法改进的盲源分离算法,因此,如何解决该问题成为当前的研究热点;在实际应用中,大部分接收到的混合信号更符合卷积混合模型,目前卷积盲源分离的复杂性、分离效果的不理想以及实际操作的困难性等问题,使得卷积模型的研究仍是国内外研究的难点。本文将分别从瞬时模型粒子群(Particle Swarm Optimization,PSO)算法和卷积模型频域算法展开研究,主要包括以下几个方面:(1)针对智能算法在瞬时盲源分离中收敛速度慢,稳态误差大的问题,研究出了一种基于惯性权重与学习因子相结合的粒子群盲源分离算法。该算法根据惯性权重的迭代,学习因子做相应的线性或非线性变化,增强了两个参数的相互作用,既加快了收敛速度,又降低了稳态误差,并实现了多种BOC混合信号的盲分离。(2)针对智能算法在实现瞬时盲源分离时容易陷入局部最优的缺点,研究出了一种基于Givens变换和二阶振荡的粒子群优化的盲源分离算法。该算法在惯性权重和学习因子结合的基础上引入二阶振荡环节,使得粒子的多样性不会因为迭代而减小,有效避免算法陷入局部极值;同时采用Givens变换将分离矩阵参数转换成旋转角的表示形式,从而降低了算法的复杂度。通过对语音信号的盲源分离,验证了该算法的稳定性。(3)针对实际应用中卷积盲源分离频域算法的排序模糊等问题,本文研究了一种基于区域增长和功率比相关的频域排序盲源分离算法。该算法首先将卷积混合信号通过短时傅里叶变换转换到频域,然后在各个频点处建立瞬时模型进行分离;其次采用分离信号功率比相关性进行逐点排序,之后根据阈值将结果划分为若干个小区域,并以区域增长方式进行置换与排序;最后将频域得到的正确分离信号转换到时域。该算法最大限度地减少了频点排序错误扩散现象,实现了语音信号的卷积盲源分离。本文对粒子群算法进行了研究和改进并应用在瞬时盲源分离中,在一定程度上改善了分离性能,为智能算法在盲源分离中的应用提供了更多的研究思路;另一方面,本文对卷积盲源分离改进算法进行了理论分析和实验仿真,并采用不同性能指标对比和分析了不同卷积盲源分离排序算法,与其他算法相比,本文改进算法具有更好的分离性能。