卷积神经网络在图像分类中的应用研究

来源 :北京工业大学 | 被引量 : 5次 | 上传用户:drink_xo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络(ConvNets)是近年发展起来一种模式分类方法,该方法结合了神经网络技术和深度学习理论。与传统的分类方法相比,卷积神经网络对高维特征具有良好的学习能力且具有更好的泛化能力,目前已被广泛应用于图像分类以及语音识别、行人检测等领域中。但是,卷积神经网络的发展也面临诸多挑战。卷积神经网络中大量的参数造成网路响应速度慢、梯度弥散和过拟合等问题。同时,由于其模型较大,很难在移动设备等计算能力、存储能力较低的设备上使用。针对以上问题,本文首先引进一种包含多分类器的卷积网络结构CDLN(Conditional Deep Learning Network)提升卷积网络的响应速度,并提出一种加权多分类器联合训练方法(Weighted Joint Training with Multiple Classifiers,WJTMC),优化网络的分类性能。然后,提出一种卷积神经网络压缩方法OSC-HashNets,对卷积网络进行模型压缩。最后,分别对各方法进行性能分析,并在移动设备中验证方法的有效性。具体研究成果如下:1.针对CDLN模型,提出一种加权多分类器联合训练方法WJTMC。CDLN网络的多分类器结构能够有效的提升卷积神经网络的响应速度,但网络的分类准确率并未被提高。针对该问题,本文提出一种加权多分类器联合训练方法。该方法的特点在于,网络训练时某层权重的更新与之后所有分类器的误差信号都相关,这样就变相的增加了训练样本,降低网络的过拟合程度,提升网络的分类准确率。为了进一步提升分类性能,在JTMC的基础上提出WJTMC,对分类器的误差信号分别增加权重值。由于网络中各子分类器的分类性能都得到了提升,因此网络的整体分类准确率得到提高。另外,使用WJTMC方法后,网络的相应速度并未降低。2.提出一种OSC-HashNets的压缩方法。首先使用一站式全网络压缩结构(one-shot whole network compression scheme)对整个卷积神经网络进行压缩,该方法主要分为三个步骤,使用变分贝叶斯矩阵分解(VBMF)进行秩选择,然后对卷积核张量进行塔克(Tucker)分解,最后进行网络微调,重新训练网络参数。之后,使用HashNets模型对网络进行权值共享操作,该方法将网络层间的连接权值随机分配到若干个哈希阵列组中,每一组权重共享一个权重值。由于权重进行分组函数的是一个低运算消耗的哈希函数,该方法并不会增加网络的存储需求。在实验中,分别在CPU和移动设备上进行网络性能测试,压缩后的网络模型大大减小,同时分类速度与分类准确率得到提升。
其他文献
轻小型移动式喷灌机具有结构简单、整体造价低、机动灵活的优点,十分贴合当前我国的农业发展需求,受到广大农户欢迎,在我国推广应用广泛。近年来,为提高喷灌作业的自动化程度
肺癌是全球发病率和死亡率最高的癌症之一,在低剂量的CT图像检测肺结节对肺癌的早期治疗十分重要。近年来,全球各地已经开始逐步普及用CT图像来辅助肺癌的早期筛查,然而这导
为有效地控制能源消耗和温室气体排放,“十一五”规划纲要将节能减排目标设为约束性指标。2006年8月,国务院颁布《国务院关于加强节能工作的决定》,明确要求建立节能目标责任
随着经济全球化的发展,各国之间的交流与合作变得越来越紧密,各跨国企业对相关文件翻译的需求也日益增长,如公司质量手册、合同、说明书等翻译。其中,质量手册作为中国公司与
作为一种生物基高分子材料,聚乳酸(PLA)具有原料来源丰富、制备过程污染小、力学强度优良和生物可降解等优点,但由于其本身韧性较差、对缺口较敏感,使用时通常需要对其进行增韧改性。其中,橡胶作为一种常见的增韧组分,可以有效提高PLA的缺口冲击强度,改善其韧性。但遗憾的是,随着抗冲性能的提高,共混物的拉伸强度和模量会出现大幅下降。如何在显著提升PLA韧性的前提下,保证其刚性,得到刚韧均衡的材料,是目前P
山东兖矿国际焦化有限公司甲醇装置自投产后,因焦炉气的质量严重影响了正常生产,所以对进甲醇装置前煤气进行深度净化处理.通过新增电捕、洗苯塔、常压脱硫等装置对煤气进行
失眠,中医也称"不寐"或"不得卧",是以经常不能正常睡眠,或入睡困难,或睡眠时间不足,或睡眠不深,严重者彻夜不眠为特征的病证。失眠在临床常迁延日久,反复发作,病人对药物治疗
由于传统石油基高分子材料面临资源短缺以及所带来的环境污染等问题,生物可降解高分子材料逐渐受到更多的关注。聚乳酸(Polylactide,PLA)是一种最具有发展潜力的生物基可降解
在互联网经济时代,伴随着迅猛的技术变革,企业在市场中所面临的竞争日趋激烈,导致企业员工的思维方式、工作方式和生活方式快速转变,因而,工作家庭关系变得越来越复杂。特别是“5G”时代即将到来,信息产业的快速崛起,使得管理者极力推崇“996”、“247”等工作制,可能导致员工面临的工作家庭冲突愈演愈烈,由此可能引发员工的负面情绪及负面行为倾向,如情绪衰竭程度加重、工作绩效下降等。同时,受传统封建专制文化
复合材料在工程中应用具有较为显著的效果,由于复合材料增材制造技术具有较为显著的技术优势,在各个领域均有涉猎。对此本文主要对复合材料增材制造技术及其发展现状进行了简