论文部分内容阅读
科技的进步使大数据和人工智能成为时代探索和研究的焦点。其中,人工智能领域中的深度学习网络通过模拟人的大脑,能解决很多复杂的模式识别难题,挖掘海量数据的潜在价值。
即便深度学习网络功能十分强大,仍存在不足。主要体现在:一、现有绝大多数深度网络结构复杂,涉及大量的超参数,受到极度耗时训练过程的困扰;二、为了提高实验准确率,深度模型需要调整参数或继续增加自身网络层数,增加网络层的同时伴随着大量参数的产生。由此问题而诞生的宽度学习系统结构简单、速度快、灵活高效,可成为深度学习网络的替代方法,但存在图像分类准确率不够高的问题。加之如今平板电脑、智能手机等其它手持终端设备得到广泛推广普及,及时提取、处理与应用这些产品产生图像的有效信息具有重要的价值。针对以上问题,本文主要工作内容如下:
①提出了一种基于卷积神经网络的宽度学习系统模型。首先,图像经过卷积神经网络的卷积层和池化层得到被提取的特征,为了提取的特征更为准确,于是使用Adam算法对卷积层和池化层的参数进行一定次数的迭代更新。然后,将提取的图像特征输入宽度学习系统,建立特征节点、增强节点。最后,利用岭回归算法求逆矩阵就可以求解输出权重。根据不同的数据集,可以选择不同数量的卷积层、池化层。
②提出了一种基于卷积神经网络的宽度学习系统的轻量化网络结构。一方面采用SqueezeNet设计原则,减少了卷积核参数数量和输入通道的数量,并删除了全连接层以简化参数,另一方面用SVD算法对特征节点、增强节点进行奇异值分解降维。
在图像分类领域,相比单独使用卷积神经网络或者宽度学习系统,构建的模型兼具二者的优点,使速率和准确率都有了提升,是一个在时间和精度方面达到平衡的新型网络。采用SqueezeNet设计原则和SVD算法对提出的网络整体上进行压缩,最终得到一个轻量化的网络。
即便深度学习网络功能十分强大,仍存在不足。主要体现在:一、现有绝大多数深度网络结构复杂,涉及大量的超参数,受到极度耗时训练过程的困扰;二、为了提高实验准确率,深度模型需要调整参数或继续增加自身网络层数,增加网络层的同时伴随着大量参数的产生。由此问题而诞生的宽度学习系统结构简单、速度快、灵活高效,可成为深度学习网络的替代方法,但存在图像分类准确率不够高的问题。加之如今平板电脑、智能手机等其它手持终端设备得到广泛推广普及,及时提取、处理与应用这些产品产生图像的有效信息具有重要的价值。针对以上问题,本文主要工作内容如下:
①提出了一种基于卷积神经网络的宽度学习系统模型。首先,图像经过卷积神经网络的卷积层和池化层得到被提取的特征,为了提取的特征更为准确,于是使用Adam算法对卷积层和池化层的参数进行一定次数的迭代更新。然后,将提取的图像特征输入宽度学习系统,建立特征节点、增强节点。最后,利用岭回归算法求逆矩阵就可以求解输出权重。根据不同的数据集,可以选择不同数量的卷积层、池化层。
②提出了一种基于卷积神经网络的宽度学习系统的轻量化网络结构。一方面采用SqueezeNet设计原则,减少了卷积核参数数量和输入通道的数量,并删除了全连接层以简化参数,另一方面用SVD算法对特征节点、增强节点进行奇异值分解降维。
在图像分类领域,相比单独使用卷积神经网络或者宽度学习系统,构建的模型兼具二者的优点,使速率和准确率都有了提升,是一个在时间和精度方面达到平衡的新型网络。采用SqueezeNet设计原则和SVD算法对提出的网络整体上进行压缩,最终得到一个轻量化的网络。