随着传感器分辨率的提高,一个目标可以占据多个分辨单元,这样的目标被称为扩展目标。近年来,扩展目标跟踪的研究受到了国内外研究学者的广泛关注。尤其是随机有限集（Random Finite Set,RFS）的出现,被广泛应用于多扩展目标跟踪中,解决了复杂环境下目标数目未知且变化的多扩展目标跟踪问题,还将此类技术应用到了民用、军事、医用等领域。虽然多扩展目标跟踪技术得到了进一步发展,但量测难以有效划分和不规则形状估计问题仍然是扩展目标跟踪领域的重点和难点问题。本文围绕随机有限集在扩展目标跟踪中的应用,重点解决了紧邻目标量测集划分与跟踪、未知新生目标预测、航迹关联等问题,取得的主要成果如下:1.针对多扩展目标跟踪中,出现的紧邻目标量测集划分和后续的跟踪问题,提出了一种基于B样条形状驱动的概率假设密度（B-spline Shape Driven Probability Hypothesis Density,BSD-PHD）滤波方法。该方法首先针对传统形状选择划分算法（Shape selection partitioning,SSP）遍历量测集候选位置时出现的时间复杂度高的问题,引入了核密度估计（Kernel density estimation,KDE）方法寻找候选位置,并且使用B样条形状匹配策略选出最佳划分方案,提出了BSD-KDE-SSP方法。之后,针对目标出现紧邻或者交叉运动时,仅采用目标的位置信息对其更新,出现的漏跟、错跟等现象,使用该算法中的B样条形状匹配策略对其更新,便可提取出正确的目标状态,而后可以较准确提取出目标的形状类别信息。实验表明,BSD-PHD-SSP能有效提高算法的效率,实验中还将BSD-PHD滤波算法分别与ET-GM-PHD、高斯逆威沙特PHD（Gaussian inverse Wishart PHD,GIW-PHD）进行了比较,该算法在不改变其它参数值的基础上,能够更准确估计出目标的运动、形状以及形状类别信息。2.针对多扩展标跟踪中,高斯混合滤波算法的计算量大,新生目标未知问题,提出基于关联矩阵的多扩展目标跟踪算法。传统的ET-GM-PHD滤波方法,在每个时刻的滤波中,要对每一个高斯分量进行量测遍历更新,严重影响了算法的运算效率,而提出了基于关联矩阵的多扩展目标跟踪算法。该算法中将目标量测状态与预测高斯分量状态的关联矩阵引入滤波方法中,将量测与高斯分量状态相似度高的分量保留,其他未进行更新匹配分量可能是杂波分量,可直接舍去,有效提高了算法的执行效率。运动过程中有目标新生时,关联矩阵中目标量测列存在新生目标量测集,经过多个时刻的判别,确定为新生目标提取出来。实验表明,关联矩阵既可以提高算法的运行效率,同时可以完成对未知新生目标的识别。3.针对多扩展目标跟踪中,不能提供准确的航迹关联信息,提出了两种滤波框架下的高斯分量航迹标签关联算法。首先,在BSD-PHD滤波框架下引入高斯分量标签,解决了多扩展目标发生紧邻或者交叉运动时,无法准确提取出目标的航迹信息的问题。然后,在基于关联矩阵的BSD-PHD滤波框架下引入高斯分量标签,解决了高斯分量数目迭代增多,计算量大的问题,还将高斯分量标签引入目标自适应框架中,解决了新生目标的航迹估计问题。实验表明,提出算法在扩展目标的航迹提取方面有良好的效果。