宫颈细胞学检查的计算机辅助诊断系统对早期筛查宫颈病变,降低宫颈癌死亡率意义重大,而宫颈细胞图像细胞核的分割对辅助诊断系统的研发至关重要。由于染色制片技术水平及操作水平等原因,图像中细胞的分布及形态往往比较复杂,现有的分割方法无法达到理想的效果。而且目前可供研究的宫颈细胞公开数据集在数量和多样性方面也比较欠缺,一定程度上影响了相关研究的进展。本课题组收集制作了新的宫颈细胞图像分割数据集,命名为GZUCM-19,并提出“基于双路联合注意力机制的类二叉树状网络”,简称BTTFA。BTTFA的主体结构类似于二叉树形状,它将两两相邻的基础特征块融合,不同层次的特征块信息被有效组合,减少池化层细节信息的丢失。同时BTTFA采用双路联合注意力机制,充分利用类二叉树状网络提取的F-Low和F-High,从而提升分割效果。本文分割方法在GZUCM-19上表现良好,并在ISBI宫颈细胞数据集上分割效果也优于现有方法,同时消融实验表明BTTFA设计合理。用深度神经网络进行有监督细胞图像分割时,不同批次的宫颈细胞数据集的差异导致训练好的网络分割不同数据集时效果不佳。本文提出一个基于迁移学习的宫颈细胞核分割方法,在提出的BTTFA基础上引入GAN的对抗机制。针对迁移模型训练困难的问题,采用谱归一化方法对鉴别器函数空间进行约束;借助对抗损失函数间接减小分割结果熵值从而促进模型预测结果分布更尖锐;分割模块损失函数部分加入最大平方损失项,以缓解分割难度不同所导致的梯度影响力不平衡问题。本文提出的迁移分割方法在ISBI和GZUCM-19数据集上和其它方法进行对比,效果良好;同时消融实验证明了本文提出的迁移分割方法设计合理。