肿瘤异质性的研究有助于了解肿瘤发生转移的分子机制,对肿瘤患者的诊断和治疗策略的选择具有潜在的指导意义,因此将异质性肿瘤样本反卷积成不同的细胞群是一个十分重要的问题。但在实际的临床实践中,参考信号往往仅有一部分是可用的。解决这一问题的传统方法是使用部分可用的参考信号对混合样本进行回归,并将剩余的信号作为一个新的细胞类型。然而,在我们的模拟研究中,这种方法往往会高估已知细胞类型的比例,而且无法检测出新的细胞类型。本文提出了PREDE模型,它是一种基于迭代的非负矩阵分解算法,该算法利用已知的部分参考信号对异质性肿瘤样本进行反卷积。通过在模型参数的不同设置下进行大量的模拟分析,我们证明了该方法在估计未知细胞的比例和表达谱方面极具有效性。将该方法应用于TCGA肿瘤样本,我们发现了利用癌细胞的细胞比例比浸润性免疫细胞的细胞比例能更好地识别出肿瘤样本的不同亚型。此外,我们还对乳腺癌、皮肤癌、膀胱癌这三种肿瘤样本进行反卷积,并利用得到的细胞类型比例对肿瘤患者进行了生存分析。总的来说,我们的模型推广了现存的异质性肿瘤样本的反卷积算法,并且该方法可广泛应用于多种类型的高通量数据。本论文第一章主要概述了肿瘤异质性反卷积的研究背景及意义,并详细介绍了反卷积算法的研究历史及发展现状,还比较了这些反卷积方法所适用的情况、各自的优点及缺陷。第二章,详细介绍了经典的非负矩阵分解(NMF)算法的原理及求解方法。在NMF模型的基础上,通过固定基矩阵W的一部分列,对NMF模型的数学形式进行修改得到PREDE模型。第三章,将处理后的CCLE数据导入PREDE模型求解,然后从四个方面对模型分析:细胞类型数的选择、不同模型参数下将PREDE模型和现存的方法进行比较、加入免疫细胞进行研究和用三种大鼠组织的混合RNA-seq数据进行模拟。第四章,使用PREDE模型对TCGA真实数据进行研究,并对患者进行生存分析。第五章,对全文进行总结和展望,讨论了PREDE模型的优缺点及未来的研究方向。