潜在狄利克雷分布(Latent Dirichlet Allocation,LDA)是一种流行的概率主题模型,能够从大量的非结构化文档集合中抽取出隐含的语义信息。通过主题建模,不仅可以从文档的单词表示中分析出语义相关的主题集合,还能够获得文档在低维的语义主题特征空间中的表示。然而,传统的主题模型是以“词袋”(Bag of Words,BOW)模型为基础,假设语料库中单词的重要性只与词频有关,虽然简化了建模的复杂度,但是忽略了文本中存在的语义信息和语义关联,使得主题模型面临主题可解释性较差、语义连贯性不足、主题特征的表示能力不强等问题。针对以上问题,本文将单词的语义信息、单词间及单词与所在文档间的语义关联、主题特征的语义信息分别融入到主题建模中,旨在从语义角度提高潜在主题的质量。具体来说,主要内容包含以下三个部分:(1)提出了一种基于动态权重的主题模型(DWTM)。旨在抑制单词词频对建模的影响,避免主题向高频词倾斜。其基本思想是高频词的语义分布与噪音单词向量更加相似,迭代过程中赋予高频词较小的权重,降低其对建模的贡献,同时赋予关键词和低频词较大权重。实验结果表明,基于动态权重的主题模型较传统主题模型能够获得可解释性更强的主题,在四个公开数据集上的PMI值较传统主题模型平均提高2.0%-7.4%,文本分类准确率平均提高1.01%～5.44%。(2)提出了一种基于单词语义分布相似度的主题模型(WSDSTM)。旨在建模过程中考虑单词间以及单词与所在文档间的语义关联,实现主题模型的语义强化。其基本思想是语义相近的单词应该具有相似的概率主题分布,同时被采样的单词与其所在文档间的语义关联越强,则该文档下所采样主题的概率值应越大,此模型使用广泛波利亚坛子(GPU)模型加入单词-单词和文档-主题的语义强化矩阵来引导主题建模。实验结果表明,WSDSTM模型能够从语义关联层面上进一步削弱词频对建模产生的影响,较DWTM模型能够取得语义连贯性更强的主题,同时主题特征的表示能力得到进一步提升。(3)提出了一种基于主题特征语义分布相似度的主题优化方法(TFOM)。旨在解决传统主题模型抽取的主题表示能力较弱的问题,该方法从语义信息角度对主题进行优化,综合衡量主题的“优劣”。首先使用主题重要性排序(TSR)中衡量主题重要性的方法,其次融合文档类别信息衡量主题特征的语义分布,最后计算主题特征与噪音主题间的相似度。实验结果表明,基于主题特征语义分布相似度的主题优化方法能够有效地区别主题特征,增强主题特征的表示能力,在四个公开数据集上的文本分类准确率较传统主题模型平均提高2.99%～9.29%。