世界卫生组织2020年公布的数据显示,癌症是全球第二大死因,全球大约六分之一的死亡由癌症造成。许多癌症的临床诊断主要通过组织切片的病理学评估。近年来,中国新发癌症病例逐年增加,而病理医生的培养周期较长,这就造成了病理行业供给严重不足。随着深度学习技术的快速发展,借助计算视觉技术助力病理诊断称为可能。细胞核的分割是病理诊断的重要步骤,因为癌症的分类与分级高度依赖于核分割的质量。本文结合病理图像特点,主要研究基于轮廓的细胞核实例分割算法,分析实验结果对现有算法进行改进。本文采用的主要框架是基于Polar Mask的单阶段实例分割算法,Polar Mask将实例分割问题转化为极坐标下预测实例中心以及实例中心距离轮廓的距离。尽管它是一个简单而有效的实例分割算法,但是该方法在预测每个轮廓点时存在两个劣势:特征不对齐和空间上下文信息不足。为此,本文主要针对性的解决上述两个问题。针对于特征不对齐的问题,本文利用一种由粗到细的范式重新设计轮廓回归分支,引入偏移量学习对粗糙分割结果进一步微调。为了降低参数量提高推理速度,采用射线分组的形式,在保证性能的前提下进一步压缩网络结构。此外还采用层次化分组采样的形式,区别对待高语义与高分辨率特征,提高特征的重利用能力。在处理空间上下文信息不足问题上,本文在细胞核环形结构基础上,通过图卷积、环形卷积以及坐标卷积引入形状先验知识,利用局部区域的上下文信息微调射线。最后,在实例分割的基础上构建细胞拓扑图,对特征癌症类型进行可解释性分析,辅助医生进行病理层面的诊断。本文主要从层级相关性传播和类别激活图两个角度,对细胞拓扑图的节点重要性进行可视化分析。