论文部分内容阅读
深度学习作为机器学习领域的一个重要研究方向,在近年来发展迅速。深度学习的主要思想是通过构建多层的深度网络结构,使用高效的算法逐级提取数据的高级特征,来完成多种无监督或有监督学习任务。深度学习方法可看作神经网络相关研究的进一步发展与延伸,解决了以往多层神经网络训练困难的缺陷,同时也在神经科学研究中获取灵感,并结合其他机器学习理论和方法不断改进。在深度学习的主流模型中,受限玻尔兹曼机是一种重要的结构组成单元,由两层单元组成,借助于受限玻尔兹曼机的概率特性,其组成的多层深度结构可以首先使用逐层训练,然后整体使用神经网络的训练方法进行参数的微调。这种方式不仅简化了训练过程,也提高了深度网络对无标签数据特征提取的效率。本文主要研究基于受限玻尔兹曼机的深度学习方法,建立新的模型结构,并改进其训练算法。主要研究成果为:1.考虑到受限波尔兹曼机层内单元间没有相互连接的特殊结构,数据内部的关联信息将会丢失,因此提出基于胶质细胞链的改进受限玻尔兹曼机及深度信念网络模型。胶质细胞是人脑中的一种特殊的神经细胞,与一般神经元相连,不仅可以调控神经元的状态,还可向其他胶质细胞传递信号。本文向受限玻尔兹曼机中引入了胶质细胞链,定义了相关激活更新规则,组成了多层的深度网络结构,并提出了种改进的训练算法,使深度网络的训练速度提高,并增强了数据特征提取的性能。2.胶质细胞链使得受限玻尔兹曼机层内单元间可以相互传递信息,但其单元的激活并没有受到约束,导致提取出的特征区分性较差。因此本文结合神经网络中的一种结构自组织网络相关理论,构建出了基于自组织网络和胶质细胞链的改进受限玻尔兹曼机模型,并提出了对应的改进训练算法,进一步提高学习效率,获取更优秀的图像特征。3.深度学习方法应用广泛,本文主要研究了受限玻尔兹曼机及其改进结构组成的深度网络在图像分类上的应用,通过在三个标准图像数据集上的大量实验,以及在人脸识别中的实际应用,测试并验证所提出的改进模型的分类准确率,收敛速度,并尝试调整相关人工参数,以适应图像分类及识别应用任务,达到其最优性能。