改进粒子群优化算法及其在人工神经网络中的应用研究

被引量 : 21次 | 上传用户:qb54223322
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
粒子群优化算法是在模仿生物群体社会活动的基础上,形成的一种新的智能优化算法。由于粒子群优化算法存在随机和不确定因素,算法的理论基础仍不完备,例如存在迭代初期易出现早熟、迭代后期收敛速度变慢等问题。粒子群优化算法的理论分析与改进已成为算法研究的重点和热点,为此,本论文在对传统PSO算法的理论分析的基础上,结合算法的生物原型特征,针对算法的收敛性能提出改进的PSO算法。由于人工神经网络中的传统BP学习算法是一种基于梯度信息的优化算法,算法容易陷入局部最优的缺点,因此,本文将改进粒子群优化算法应用在神经网络训练中。本文的研究不仅可以完善PSO算法的理论基础,还为PSO算法在人工神经网络中的应用提供了借鉴。本论文研究内容如下:1.对优化问题的综述。优化问题是一种以数学为基础,用于求解各种实际应用中的最优方案。优化问题和算法研究是具有理论意义和应用价值的课题。传统的优化算法有拉格朗日乘子法、复合形法、共轭梯度法等,而在实际应用中,优化问题往往具有规模大、难度高和存在多个局部最优解等特点。因此传统的优化算法面对这样的问题是就很难解决。智能优化算法是一种对生物系统及其行为为特征进行模拟,具有较强通用性的优化模式和方法,能解决一些复杂的实际优化的问题。粒子群优化算法是智能优化算法的一种,它是一种启发式随机优化算法,采用群体解的合作机制来迭代产生最优解,算法的概念简单、容易实现、需要调节参数少,其研究以成为国内外的热点,尤其在算法的理论分析、改进研究及其应用等方面。2.粒子群优化算法是一种随机性、带有启发式的优化算法,并且群体的粒子之间是相互作用的,其粒子的运行轨迹是很复杂的。从理论的观点来看,随机算法如果能概率1收敛就是令人满意的结果。本文针对算法中的参数对其收敛性、收敛速度和收敛精度的影响分析;对粒子群优化算法的行为分析,给出了算法的收敛区域参数,为后面的研究内容提供参数的选择标准;最后证明算法的收敛位置的存在的唯一性。3.粒子群优化算法容易出现早熟现象,在迭代后期收敛速度较慢的原因是群体中各个个体极值更新缓慢,粒子缺乏活力。为了提高粒子群优化算法的性能,本文针对带收缩因子PSO算法进行改进,在收缩因子粒子群算法的基础上,引入两个新的参数,即速度因子和位置因子,一旦粒子向全局最优接近而且其速度小于设定的速度因子,则认为该粒子可能出现停滞,从而对此粒子进行重新初始化,以增强粒子活力。同时在算法陷入局部最优时,通过此方法驱散粒子,以提高种群多样性,从而避免产生早熟收敛现象。通过对三个多峰标准测试函数的仿真比较实验,验证了改进后算法的效能,仿真结果表明改进后的算法在提高收敛精度的同时,能有效地避免算法陷入局部最优。4.细菌通常具有生命周期短、繁殖快、对环境敏感等特点,在觅食足够的营养物质后,细菌将以二分裂方式迅速繁殖,但是细菌一旦觅食不到足够的营养物质或遇到有害物质,细菌极易死亡。利用细菌的进化机制,对粒子群优化算法改进,采用细菌作为算法中个体的生物原型,并根据细菌及菌落的基本生物进化规律,提出一种具有进化机制的细菌粒子群算法,其中个体通过不断的繁殖和死亡操作以保持种群的多样性,该算法还为粒子群算法提出了一种新的自然结束方式。仿真结果表明,细菌粒子群算法能显著提高算法收敛速度,并可以达到全局最优。5.人工神经网络是人工智能研究的重要系统之一,它是具有有向图拓扑结构的高度并行的动力系统并通过对输入状态施加作用来获取输出信息。误差反向算法(BP算法)是一种最为重要、应用最多的神经网络算法,它使用的优化技术是最普通的梯度下降法。误差反传训练算法的基本思想是最小二乘学习算法,是基于梯度搜索的最小均方差算法,为了获得网络实际输出和期望输出之间的均方差最小,网络的学习过程是将误差从上层向下层一遍传播一遍修改权值的过程。但是在很多实际问题中,复杂的非线性对象的梯度信息很难得到甚至是无法获得,这样BP学习算法就无法优化求解问题。本文将改进粒子群优化算法应用到BP学习算法中,结合BP算法的特点及粒子群优化算法的全局搜索能力。由于粒子群优化算法代替了神经网络的初始寻优,网络仅在已接近最优解得基础上进行参数优化,此外,BP算法中,初始权值的选择不当会引起算法的不稳定甚至发散,而结合PSO算法后就能很好的避免这个问题。实验仿真结果表示,基于PSO的神经网络算法都明显的提高了网络的寻优精度和速度,并且有效地克服了BP算法收敛速度慢的缺点。
其他文献
纳帕海是我国独特的低纬度高海拔季节性高原湿地,雨、旱两季分明,兼具水陆特征,是一个孤立而分散的生态系统,其中大量存在的噬菌体是维持湿地微生物生态系统平衡最重要的生物
"中病即止"原则是中医指导用药处方的经典理论,其在针灸经典中也有相关论述。根据现代实验及临床研究,针灸疗效与针灸刺激量密切相关,但不完全成正比关系,而如何把握有效刺激
在表面肌电信号处理电路中大都需要模数转换器来将肌电信号这个模拟信号转换为数字信号,而应用的特殊领域需要模数转换器必须具有中等速度、中等精度和低功耗的特点,并且在CM
<正>当网络购物成为生活时尚,与之相伴随的快递包装污染和浪费等问题也日渐突出,快递包装该如何走向节能减排的道路呢?在网络及电子商务高速发展的今天,网购已逐渐成为人们的
随着无线通信模式的不断涌现,将多种通信制式集成在一个移动终端上已成为目前无线通信技术发展的趋势,支持多模式、多标准、多频段的射频收发机也因此成为人们研究的热点。而
随着市场经济的发展,有些人错误地认为雷锋精神已过时了。事实证明新时期仍要发扬雷锋精神,新时期要与时俱进地学习雷锋精神。
文章设计了一种实时、快速的地形数据加载方法,用以提高地形数据的处理效率。在进行三维地形建模时,需要根据飞机的实时位置加载地形数据,并随着飞机实时位置的改变,实时更新
随着现代无线通信技术的不断发展,各领域电子系统对射频收发机性能的要求越来越高。滤波器作为射频前端中可滤除杂波的重要选频器件,一定程度上决定着收发机的整体性能,因此
目前在高压大电流的应用领域上,IGBT有绝对的统治地位。主要原因是由于IGBT管结合了GTR和MOSFET二者的优点,具有开关速度快,耐压能力高,热稳定性能好等确定。现在基于IGBT的
物流产业作为国民经济的承载体,在我国经济的运转中具有重要作用,物流业的健康发展也因此成为备受关注的焦点之一。21世纪以来,我国物流产业飞速发展,企业之间的市场战争也随之变