基于受限玻尔兹曼机的深度学习方法研究

来源 :北京化工大学 | 被引量 : 5次 | 上传用户:tian_mizhen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习作为机器学习领域的一个重要研究方向,在近年来发展迅速。深度学习的主要思想是通过构建多层的深度网络结构,使用高效的算法逐级提取数据的高级特征,来完成多种无监督或有监督学习任务。深度学习方法可看作神经网络相关研究的进一步发展与延伸,解决了以往多层神经网络训练困难的缺陷,同时也在神经科学研究中获取灵感,并结合其他机器学习理论和方法不断改进。在深度学习的主流模型中,受限玻尔兹曼机是一种重要的结构组成单元,由两层单元组成,借助于受限玻尔兹曼机的概率特性,其组成的多层深度结构可以首先使用逐层训练,然后整体使用神经网络的训练方法进行参数的微调。这种方式不仅简化了训练过程,也提高了深度网络对无标签数据特征提取的效率。本文主要研究基于受限玻尔兹曼机的深度学习方法,建立新的模型结构,并改进其训练算法。主要研究成果为:1.考虑到受限波尔兹曼机层内单元间没有相互连接的特殊结构,数据内部的关联信息将会丢失,因此提出基于胶质细胞链的改进受限玻尔兹曼机及深度信念网络模型。胶质细胞是人脑中的一种特殊的神经细胞,与一般神经元相连,不仅可以调控神经元的状态,还可向其他胶质细胞传递信号。本文向受限玻尔兹曼机中引入了胶质细胞链,定义了相关激活更新规则,组成了多层的深度网络结构,并提出了种改进的训练算法,使深度网络的训练速度提高,并增强了数据特征提取的性能。2.胶质细胞链使得受限玻尔兹曼机层内单元间可以相互传递信息,但其单元的激活并没有受到约束,导致提取出的特征区分性较差。因此本文结合神经网络中的一种结构自组织网络相关理论,构建出了基于自组织网络和胶质细胞链的改进受限玻尔兹曼机模型,并提出了对应的改进训练算法,进一步提高学习效率,获取更优秀的图像特征。3.深度学习方法应用广泛,本文主要研究了受限玻尔兹曼机及其改进结构组成的深度网络在图像分类上的应用,通过在三个标准图像数据集上的大量实验,以及在人脸识别中的实际应用,测试并验证所提出的改进模型的分类准确率,收敛速度,并尝试调整相关人工参数,以适应图像分类及识别应用任务,达到其最优性能。
其他文献
基于构件的软件开发是解决软件危机,实现软件工业化生产现实可行的途径,可以有效地提高软件生产效率,缩短软件开发周期。目前,随着软件复用实践的深入和推广,构件的需求迅速增加,数
近几年来,电子政务建设取得长足的进步,作为其中之一的网上行政审批系统也快速发展起来。网上行政审批系统的业务数据涉及民生、地方经济发展状况等信息,若能有效利用其海量的数
本文运用一种基于调和的方法讨论计算机辅助几何设计与制造(CAGD/CAM)中的超限插值曲面造型问题,其内容包括:传统的超限插值方法概述、矩形域上单向超限插值调和构造方法以及
在当今的网络系统中,对计算机系统的入侵检测已经成为一个关键性的问题。现在各种各样的攻击手段日益增多,并且通过网络不断蔓延,在它们攻击目标系统之前,都会先影响一些其它相关
随着网络信息技术的发展,互联网作为一种全新的信息流动承载平台,正在逐渐地改变着人们的交流和思维方式。传统的多媒体播放模式已经不能满足大多数人的要求,人们在网络上可
在20世纪90年代提出推荐系统的概念之后,经过十多年的发展,推荐系统已经被应用到了许多大型电子商务系统中。在对推荐系统的研究中,如何对现有系统中的推荐算法进行改进,以及
网格计算作为一种新型的大型分布式计算,从其提出到现在一直受到了学术界和工业界极大的关注。随着网格技术的不断发展,网格已逐步发展细化为计算网格、数据网格、服务网格以
医学图像可视化技术是当今计算机科学研究的一个热点,它能弥补医疗影像设备在成像上的不足,为医生提供具有真实感的三维图像,便于医生从多层次、多方位观察与分析,引起了越来
访问控制策略有效地保障了信息系统的安全性,它是指实施允许被授权的主体对某些客体的访问,同时拒绝向非授权的主体提供服务的策略。随着信息化步伐的加快和计算机技术的发展
随着计算机科学的迅速发展,软件规模日益庞大。现在人们在考虑软件执行效率的同时,也越来越关注其安全性(Safety)。高可信软件的研究致力于使用前沿的技术和工具来提高计算机