深度森林模型是一种基于随机森林分类器的集成学习模型。相比于深度卷积神经网络,深度森林模型具有模型结构灵活、需要调节的超参数较少、在小规模数据集上性能良好等优势。然而,传统深度森林模型森林间结果集成方式单一,层间特征向量的传递方式不够灵活,而且模型性能随超参数设置改变的波动较大,这些缺陷导致传统深度森林模型性能较低,对超参数的设置也有着较高的要求。本文针对传统深度森林模型结构的缺陷,探索深度森林中的单个随机森林之间的结果集成方式和每一层之间的特征传递方式,并且设计深度森林的超参数自动优化方法,深入研究深度森林的结构优化问题。主要研究内容如下:(1)针对深度森林将最优层结果直接作为模型整体结果而没有考虑多层结果集成的方式对模型性能的影响,设计了加权集成深度森林模型Ad GCForest。该模型根据每一层随机森林在训练样本集上的损失计算该层的集成权重,调整样本在后续迭代训练中的训练权重,使得模型在迭代训练中关注难以被分类正确的样本,最终由每一层随机森林的结果依据各自的集成权重进行加权集成得到模型整体的输出结果。因此相比于传统深度森林模型,Ad GCForest模型在迭代训练中已训练完毕的层的结果对后续层的训练有先验指导作用,并且根据每一层的性能表现来对单层结果进行集成,利用这种集成思想来达到提升模型性能的目的。在UCI Letter,UCI Adult,UCI Yeast,s EMG,MNIST,CIFAR-10共六个数据集上的实验结果表明,Ad GCForest均能达到比传统深度森林模型高出0.13%～1.02%不等的分类正确率,证明了Ad GCForest模型的优越性。(2)针对深度森林直接将单层随机森林的结果作为特征向量传递给下一层而造成的单个随机森林同质化对模型性能的影响,在第二章设计的Ad GCForest模型的基础上,引入动态路由算法,设计了特征路由深度森林模型DRAd GCForest。该模型主要根据随机森林输出的结果的差异,确定每个随机森林的输出特征向量,并根据动态路由算法迭代计算每个特征向量的耦合系数,最终将每个随机森林输出的特征向量进行耦合,分别传递给下一层的随机森林。因此,DRAd GCForest模型通过特征向量的耦合过程,提高了每个随机森林接收到的特征向量的质量,减少单个随机森林的同质化,提升了模型性能。在上述六个数据集上的实验结果表明,该模型在相应数据集上的分类正确率比第二章所设计的Ad GCForest模型高出0.04%～0.45%不等,证明了DRAd GCForest模型的优越性。(3)针对深度森林模型性能对超参数设置变化的敏感问题,设计了基于贝叶斯优化的深度森林超参数自动优化方法。该方法利用第二章和第三章中有关超参数设计的实验结果作为超参数自动优化的真实目标函数的先验分布,通过高斯过程在迭代寻优中建立和更新真实优化目标函数的后验概率代理模型,并利用采集函数最大化的方式确定最有潜力能够模型性能提升的超参数组合。在上述六个数据集上的实验结果表明,在自动优化方法寻找到的超参数组合下,Ad GCForest和DRAd GCForest模型均比人工设置的超参数组合下高出0.04%～0.37%的分类正确率,同时该方法在迭代寻优过程中不需要人工参与,减少了人工操作的工作量。