随着互联网上可用信息的日益增多,怎样快速而有效地获取有用信息成为人们研究的重要课题,信息自动分类就应运而生了。贝叶斯作为其中的一种分类方法,应用在很多领域。本文将尝试探索应用语言模型改进贝叶斯分类模型的方法。首先,我们对文本分类系统以及贝叶斯分类模型作了分析和探讨。然后,分析了贝叶斯模型的数据稀疏问题,并讨论了Laplace平滑技术的缺陷,提出了用统计语言模型来改善数据稀疏问题。接下来介绍了语言模型的三种平滑技术,分别是Jelinek-Mercer平滑技术、Dirichlet平滑技术以及绝对折扣法。最终,针对Jelinek-Mercer提出一种改进的平滑技术。本文最主要的工作是将统计语言模型的四种平滑技术应用于贝叶斯分类器当中。通过实验,找到了最优的平滑参数。最后得出如下结论:使用四种平滑技术改进后的贝叶斯分类模型的性能都优于朴素贝叶斯分类模型的性能,特别是采用了改进平滑尺度的Jelinek-Mercer平滑技术后,分类器的性能得到较大改善。