论文部分内容阅读
集成学习是当前机器学习领域研究的一大热点，因其具备显著增强学习机泛化性能的能力和有效解决学习机过学习问题的优点，而备受研究者的关注。本文就是从集成学习的角度来研究图像分类问题，以Bag-of-Words模型描述图像、以SVM为分类器，提出了两种基于集成学习技术的图像分类方法，并取得了较好的效果。本文的主要研究工作如下：(1)对SVM、Bag-of-Words (BOW)模型以及集成学习技术进行了研究，三者贯穿全文是本文研究工作的基础。(2)对SIFT和PLSA两种特征提取方法进行了深入研究，两者在本文后两章研究工作中起着至关重要的作用。(3)提出了一种SVM集成的图像分类方法。主要是针对单分类器没有充分考虑数据集的特征而不能很好地完成分类识别，提出了一种基于集成学习技术的SVM集成的图像分类方法。分类器的独立性和差异性是决定集成效果的关键性因素。该方法则是基于近些年来非常受欢迎的BOW模型描述图像方法的基础上，利用训练生成的不同SVM分类器对测试图像进行分类，并将分类结果采用集成学习算法进行集成后输出。分别采用传统的BOW模型的图像分类方法和本文提出的方法进行分类实验，实验结果对比表明采用SVM集成的图像分类方法明显提高了分类精度，具有一定的鲁棒性。(4)提出了一种PLSA结合SVM集成的图像分类方法。该方法其实质是对BOW模型和集成学习技术相结合进行图像分类的又一次有效运用。首先，运用SIFT算法对图像进行关键性特征的提取，之后并对特征进行K-means聚类以构建视觉词汇本。然后，将所有提取的SIFT特征与词汇本进行对比，并分别统计出视觉单词出现的频率，从而构建图像的BOW模型描述；在BOW模型的基础上再利用PLSA提取图像的潜在语义特征；通过得到的潜在语义特征训练SVM分类器；其次，重复前面的过程N次，可以得到N个不同的SVM分类器；最后，用上述N个不同的SVM分类器对测试图像进行分类，并将分类结果集成后作为最终的分类结果。实验证明此方法同样达到了良好的效果，且具有一定的稳定性。