随着互联网和信息技术的飞速发展,人类社会正步入大数据时代。海量的信息通过互联网发布和传播,其中非结构化的文本数据是互联网信息的重要载体和呈现形式。因此,高效、精准地管理和挖掘文本信息,并快速提取有价值、感兴趣的高质量信息具有重要意义。文本分类是管理海量文本信息的一种有效方法,能够使分类后的信息结构更清晰、内容更聚合。因此,文本分类技术已成为机器学习和自然语言处理领域的研究热点和难点之一。且主题模型作为信息检索、文本分类领域的重要方法之一,通过对主题和文档建立概率分布,自动挖掘不同文档中的潜在语义信息,吸引了大量学者的研究与关注。本文基于无监督的深度主题模型,对联合建模标签与文本信息、实现文本分类进行了讨论和研究。本文主要内容如下:1.本文首先针对隐狄利克雷分配(LDA)模型及其深度模型展开了理论研究与分析。以浅层的LDA模型出发,研究了文档概率建模过程中文档生成和参数更新方法,分析了模型的优势和不足。接着介绍了深度LDA模型,针对深度模型的非线性结构和对文档的层次化表征进行了研究,并通过实验验证了深度LDA模型的有效性。2.针对无监督的深度LDA模型特征提取与分类器无法联合学习,导致其特征可分性较弱,本文结合最大间隔准则,提出了有监督的最大间隔深度多样化LDA模型。它以最大化不同类别的隐变量间隔作为分类准则,通过数据增广技术,在贝叶斯框架下联合建模类别标签和文本信息,学习特征空间及分类器。并进一步考虑文本中公共信息的影响,在建模过程中分离公共主题,利用更具有语义信息的多样主题特征分类,提高模型分类性能。最后,在实测文本数据上验证了最大间隔深度多样化LDA模型的有效性,同时对模型所提特征的可分性和主题估计作出分析和讨论。3.针对大数据背景下,文本分类模型实时更新过程中在学习新数据的同时容易对旧数据遗忘,本文提出了持续化随机梯度MCMC和变分推断混合在线更新方法。基于变分持续算法,将上一时刻的参数后验作为当前时刻的参数先验。并在后验推理过程中,加入衰减因子平衡先验与似然的影响,模型的参数可以在线更新。实验结果表明,利用持续化随机梯度MCMC和变分推断混合在线更新方法,在线最大间隔深度多样化LDA模型不仅能学习当前新数据的特征表示,同时减缓对旧数据的特征信息遗忘和分类性能降低。