基于进化算法的神经网络研究与优化

来源 :安徽大学 | 被引量 : 0次 | 上传用户:whenhm
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着智能计算的快速发展,进化算法与神经网络作为智能计算的重要组成部分已得到越来越普及的应用。其中,以BP神经网络及其改良模型的应用较为普遍。BP神经网络是一个遵循误差逆向传播,并训练的前向神经网络。其采用梯度下降法进行学习,经过不停地修正权值与阈值,达到误差最小。BP神经网络具有拓扑结构简单,非线性处理能力及自我学习等特点。尽管BP神经网络具有很多显著的长处,但是在现实应用中也留有一些缺陷:网络结构较难确定,网络训练参数较难设定,网络的权值较难选取,训练算法较难选择,训练精度较低,易坠入局部极值等。针对BP神经网络存在的以上问题,多种优化的方法与调优的模型相继被提出。其中,采用进化算法结合BP神经网络来调优性能,已经得到越来越多学者们的重视。然而在此类方法中,多数只采用进化算法结合逆向传播算法,而忽视了神经网络本身结构与其算法的优化。在本文中,首先在神经网络训练的基础上,根据网络每次训练的误差值自适应选取隐含层节点个数,从而避免人工设定网络结构的盲目性。其次,针对进化算法结合神经网络,其易产生局部最优的问题,提出改进的遗传算法与改进的粒子群优化算法。其中,主要包括改进的遗传算法结合网络训练,并选取最佳训练参数;及改进的粒子群优化算法结合网络训练,并选取最佳的权值矩阵,从而提高神经网络的训练精度。最终,基于优化的算法结合BP神经网络构建IGAPSONN模型,并将其运用于现实问题中。本文主要工作与创新点如下:(1)针对神经网络的隐含层节点个数较难选取的问题,根据网络每次训练的均方误差值,提出自适应选取网络隐含层节点数的算法。该算法综合考虑网络输入与输出节点个数对隐含层节点个数的影响,限定隐含层节点个数的范围,并且自适应选取使网络误差最小的隐含层节点个数,从而避免了人工设定节点个数的盲目性。(2)针对神经网络训练参数学习率与动量因子难以确定的问题,提出改进的遗传算法结合网络训练,动态选取学习率与动量因子的算法。在网络训练中,该算法根据学习率与动量因子的参数范围,并设定染色体结构。在进化过程中加入多点交叉与多点变异的操作使每个个体可以得到完全的进化,使网络训练参数动态被选取,从而避免手动设定参数的盲目性。(3)针对神经网络权值选取不精确的问题,提出改进的粒子群优化算法结合网络训练,并动态选取权值矩阵的算法。在网络训练中,该算法提出动态惯性权重与参数制约使参数自适应选取,平衡算法的局部搜索性能与全局搜索性能。同时,该算法结合传统的差分进化算法使粒子进行变异,并且提出在动态邻域内粒子进行交叉操作,增加粒子间的交互,减少聚集,有利于粒子跳出局部最优,并提升粒子多样性,动态选取精确的权值,从而避免神经网络训练精度低。(4)本文基于隐含层节点数自适应选取算法,学习率与动量因子动态选取算法,改进的粒子群优化算法,以上结合BP神经网络构建IGAPSONN模型,并运用该模型于实际问题中。相比当前通用的神经网络模型,仿真实验分别从模型的训练精度,正确率及算法性能三方面验证了所提模型的精确性与有效性。
其他文献
本研究以黄河中上游半干旱区典型盐渍土这种特殊生态环境中分离出的细菌和放线菌为供试菌株,采用平板筛选法对细菌产淀粉酶、脂肪酶、蛋白酶、纤维素酶的能力进行初步研究;采
小儿多发性抽动症已成为严重威胁儿童健康的一种慢性疾病,加强对本病防治的研究具有重要的意义。多动宁口服液系由生地、白芍、天麻、钩藤、郁金和地龙组成的临床有效经验方。
《古兰经》注释学是伊斯兰教最早的学科之一。关于经注学的类别,学者们有不同的主张。经注学家伊玛目·哲拉鲁丁·苏尤蒂在其名著《古兰学精义》中认为有两大类别,即传闻注释
新闻话语分析是最近几十年发展起来的一门学科。它主要关注的是语言或符号在社会语境中的使用过程。新闻话语分析主要侧重两方面,一是语篇中语言的形式特征;二是与语篇生存紧
元代白话碑文是元人刊刻于碑石之上的白话文牍,一方面,它的内容涉及元代政治、经济、宗教、法律、社会生活等诸多方面,为我们提供了最为可靠的“同时资料”(太田辰夫语);另一
研究了全氟萘烷/甲苯(C10F18/CH3C6H5),全氟萘烷/氟苯(C10F18/C6H5F),全氟萘烷/苯甲醚(C10F18/C6H5OCH3),全氟甲基环己烷/甲苯(CF3C6F11/CH3C6H5),全氟甲基环己烷/苯(CF3C6F11/C6H6),全氟甲
20世纪60年代以来,随着新型高分子材料不断涌现,高分子材料的应用越来越广泛,它涉及到化学、机械、轻工、国防、汽车、食品、医用、航天等许多个重要的工业门类。新型高分子
改革开放以来,我国社会的所有制结构、资源配置方式以及技术条件都发生了巨大变化,这些制度与技术层面的变化正是我国分配关系演变的逻辑前提。第一,单一的公有制经济结构被
当前应对艾滋危机挑战中各类艾滋病防治项目扮演着重要角色。如何确保项目在设计、执行过程中不断发现问题、解决问题;如何评判各类项目是否取得既定的成效、总结项目开展过程
当代大学生群体中出现漠视生命的行为是因为其对生命的存在价值领悟不够深刻,因此,在高校开展生命教育变得格外迫切。本文将研究先秦道家生死观,汲取道家生死观中的生命智慧,