将自然语言处理任务转化为机器学习问题,第一步是将输入的符号数学化。最直观的词表示方法是一元词向量表示,把每个词表示为一个稀疏的高维向量。这种词表示方法虽然简洁,但是会引起维数灾难和词汇鸿沟问题。分布式词表示的提出很好地解决了一元词向量的缺点,能够降低向量的维度并且能捕捉词语的语义信息。因此,词向量模型被广泛应用于各种自然语言处理任务中。词向量模型可以利用文本语料库中的局部词语搭配来捕获词的语义和句法信息,为每个词学习向量表示。而主题模型则利用同一文档中的全局词语搭配来观测文本全局信息,主题模型将文档映射到低维主题空间,通过语料库中的词分布来为每个词分配一个主题。因此,主题模型和词向量模型在某种意义上是互补的,将这两种模型结合起来有望从全局以及局部角度捕捉语料信息。目前,关于将词向量模型和主题模型相结合的研究大致可分为三类:1)利用词向量来增强主题建模;2)利用主题模型来提升词向量模型的效果;3)词向量模型与主题模型联合学习并互相增强。然而,现有研究大多数利用主题模型中的主题信息来解决词向量模型中的一词多义问题或将词向量作为外部知识来增强主题建模,而联合学习词向量和隐含主题并且探索主题模型和词向量模型间的相互影响的研究还较为少见。并且现有研究大多采用主题模型为有向的图模型LDA,而无向的图模型RSM则相对学习简单且稳定,可以对不同长度的文档进行建模,并且容易计算潜在主题的后验分布。因此,本文提出将词向量模型skip-gram与基于无向图模型的主题模型RSM相结合,将它们整合到一个统一的框架下联合学习词向量和隐含主题并探索二者间的相互影响。另外,为了提高skip-gram预测的准确性,本文还将中心词向量与文档向量相加得到上下文词向量,并利用上下文词向量来预测中心词周围的词。我们在公开数据集20 Newsgroups上进行了相应的实验,实验结果验证了本文所提出的模型的可行性和有效性。