子宫颈癌是危害妇女健康的常见妇科疾病,属生殖道恶性肿瘤。所幸这类恶性肿瘤有明确病因,早期筛查能降低其发病率,达到有效预防甚至消除的效果。在当今医疗领域,宫颈细胞涂片分析,如液基细胞学（TCT）涂片分析,是宫颈癌人工筛查的主要方法之一。传统人工阅片主要依靠临床经验丰富的医生对病情进行主观判断。由于宫颈细胞图像复杂难懂,在医师连续高强度工作的情况下,易导致病变诊断的漏检、误检和低效。随着深度学习在医学图像目标检测方面取得的巨大进步,通过对宫颈TCT图片智能化检测和分割辅助疾病诊断,对于防止病人错过最佳治疗时机,挽救病人生命具有重要的研究意义。本文对在目标检测领域精度最高的两种网络框架Mask R-CNN、Faster R-CNN进行深入研究,针对其存在小目标漏检、分割不够精准两个问题,提出了基于NAS-FPN、多参数损失函数及边缘信息的改进算法Masker R-CNN,实现了宫颈细胞检测、分割精度的有效提高。本文的具体工作包括以下五点:数据集制作。作者与长沙市旺旺医院合作,在病理科检验员的帮助下,利用TCT涂片技术采集宫颈细胞图像,制作成COCO格式。并通过数据增强的方式扩充数据集规模,使数据能支持网络进行充分训练,避免过拟合,提高泛化能力。（2）本文对比Faster R-CNN和Mask R-CNN在自制数据集上的训练结果,选定改进模型基础框架为Mask R-CNN。（3）针对Mask R-CNN的特征融合方案提出了NAS-FPN,通过神经网络搜索方法搜索到金字塔各层的最佳连接方式,减少信息丢失,有效提高密集小目标的查全率及准确率。实验证明,此改进使得小目标查全率最高提升了4.6%。（4）针对不同尺度目标对分类、回归损失敏感度不同的特点,提出多参数的损失函数,实现同一图像中不同大小细胞检测精度的提高。实验证明,目标检测结果的准确率和回归率最高提升了5.3%、4.4%。（5）针对Mask R-CNN对候选区域直接进行分割,导致掩膜边缘与细胞的真实边缘不完全贴合的问题,本文提出先对目标的边缘进行识别,然后对边缘形成的封闭区域进行填充。算法对目标边缘的收敛得到有效改善,实验证明,边缘信息的融入使得分割准确度高出原始算法6.6%。