图像分割是医学图像处理与分析的前提条件和关键步骤，也是制约其它医学图像处理技术发展与应用的瓶颈。磁共振成像是现代重要的医学成像技术，能够提供丰富的三维人体软组织解剖信息，在头颈部位成像中具有其它影像设备无法比拟的优势。脑组织磁共振（MR）图像分割在三维重建、定量分析和图像可视化等方面具有重要的作用。目前，针对脑组织MR图像的自动分割已经成为医学图像处理中的研究热点。由于人体解剖结构个体差异较大，临床应用对医学图像分割的准确度和分类算法的速度要求较高，目前虽然已有多种分割算法但远未达到完善。而且，由于噪声、场偏移效应、以及局部体效应的影响，实际获取的脑组织MR图像常表现为组织特征具有可变性、不同软组织之间边界模糊、以及各类组织结构分布复杂等特性。这些都对研制自动分割技术造成了极大的困难。本文提出了两种基于自组织特征映射网络的无监督学习聚类算法，自适应地构造网络结构，解决脑组织MR图像分割中存在的困难。此外，还提出一种基于图的层次聚类算法实现脑组织MR图像的自动分割。主要研究成果如下： ⑴提出自适应生长型分层自组织映射（ASGHSOM）网络，将竞争学习算法与多尺度分割思想相结合，自适应地构造网络生长层，解决图像中组织边界区域由于局部体效应引起的灰度值交叠问题。同时，根据图像局部区域中像素间的相关性，构造一种自适应距离抑制噪声对图像分割的影响、解决分类模糊问题。ASGHSOM算法整个分割过程都是无监督的，不需要任何组织概率图谱和图像配准技术，具有很好的可扩展性。与多种经典的脑组织MR图像分割算法相比较，ASGHSOM算法在模拟数据集和真实数据集上都可以得到较为准确的分割结果。 ⑵将对偶树复小波变换（DT—CWT）应用于医学图像分割中，并与自组织特征映射相结合提出一种自动的、无监督的脑组织MR图像分割方法——空间约束的自组织映射树（SCSOTM）网络。SCSOTM网络采用DT—CWT特征与空间信息共同约束网络的生长过程，网络生长层层数以及每层的结构和大小都根据图像自身特点来确定，具有较好的自适应能力。并基于灰度值、DT—CWT低频子带和三维空间位置信息构造多维特征向量，其中DT—CWT特征具有平移不变性、良好的方向选择性和对噪声的鲁棒性；而空间位置特征使SCSOTM网络可以获取图像中各类组织复杂的空间结构，建立了叶节点神经元与图像局部区域间的对应关系，增强网络的直观性和解释性。 ⑶以基于图的层次聚类（GBHC）算法实现脑组织MR图像的自动分割。首先，使用DT—CWT构造各像素的多尺度特征，在保留图像细节信息的同时抑制噪声对分割的影响。然后，以基于最小生成树的方法对图像进行初始分割，并结合DT—CWT构造基于最小生成树的分割算法中参数k的自适应取值函数，避免图像平滑区域在分割过程中产生大量小区域。最后，采用层次聚类算法合并小区域，解决过分割问题。在真实脑组织MR图像实验中验证GBHC算法分割的准确性和稳定性。