为了将人工智能应用于从世界收集的大量无标注数据,一大关键难题是要用弱监督或无监督的学习方法来学习有用的表征。传统医学影像学的图像分辨率往往不足以充分表示清晰的细胞信息,数字病理时代的全切片成像技术带来了多尺度、高精度的更清晰的数字可视化数据,使得病理图像具备更多微观细节信息。卷积神经网络强大的特征提取能力能够有效提取数字病理图像中的特征,然而病理医生的缺失以及病理图像的标注困难使得带有标签的样本不易获得,利用无监督的方式获得可靠的表征对病理进行研究,从而避免医疗资源的浪费已成为大势所趋。无监督学习旨在没有标注的条件下提取数据的关键特征,特征表示的好坏直接决定着下游任务的最终效果。对于表征的衡量不仅要用相应指标来衡量,更重要的是不能使得表征成为不可解释的“黑盒子”,在医学领域的无监督学习中更是如此,因此特征的可视化技术是保证特征可靠性以及医学可解释性的关键,因此本文基于变分自编码器的思想在肝癌病理数据集获得良好的表征解决医学可解释问题,并利用表征解决了不同的下游任务。主要研究内容如下:1)设计无监督的自编码器特征提取模型表征肝癌数据集。能够自动对批量的病理切片进行特征提取,通过不同任务来比较不同编码器的表征能力,通过重构图像以及生成图像等可视化手段展示特征,保证特征可靠性。2)利用自编码器的降维能力进行数据降维可视化来初步分析原始数据集,比较不同降维方法的差异。3)设计基于自编码器的分类模型。该模型对自编码器的表征能力按照分类指标进行量化,进一步验证以无监督方式提取的特征能否胜任主流的分类任务。4)设计肝癌数据集高风险特征可解释算法。该算法将肝癌数据集的表征信息与病人预后信息相关性分析定量筛选出高风险特征,利用自编码器的生成特点可视化高风险特征,为高风险特征赋予医学可解释性。实验结果表明,自编码器模型重构的图像与原图进行对比具有良好的清晰度,同时均方误差较小达到了0.0122,表明结合重构图像以及变分自编码器系列的生成图像得出的表征能够抓住数据集的关键特征。本文基于自编码器的分类模型准确率达到91.4%,代表了无监督的特征提取方式虽然与监督学习有一定差距但达到了不错的表征效果。对高风险特征的可视化找到了具有医学可解释的特征如毛细血管占比、深色细胞核占比、细胞质颜色等,都与癌症病人预后具有强相关性,进一步的说明模型表征出了高级特征,是一种创新性的基于无监督的可分析可解释的关键技术手段。与PCA和T-SNE在二维及三维的可视化比较也表明自编码器具有不错的降维能力,能够初步认识原始数据集。本文肝癌病理生成模型能够生成原始数据集不存在的数据。