求解大规模优化问题的有限记忆拟牛顿法

来源 :湖南大学 | 被引量 : 0次 | 上传用户:zlw12345678901188
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
拟牛顿法是一类有效的求解无约束优化问题的方法.然而实例表明拟牛顿法被用于求解非凸函数极小值问题时不一定全局收敛,为此人们提出了拟牛顿法的许多修正形式,如保守BFGS (CBFGS)方法、修正BFGS (MBFGS)方法等,但这些修正仍存在某些不足.为求解大规模优化问题人们对拟牛顿法进行改善得到了有限记忆拟牛顿法,但该类方法在求解病态问题时几乎失效,因此人们在有限记忆类方法中使用正规化策略改善其数值效果,但在其修正公式中,初始矩阵通常只能取常量矩阵而丢失了某些与迭代有关的有用信息,基于已有拟牛顿法和有限记忆拟牛顿法的不足,在本文中,我们提出了带比例因子的BFGS (SBFGS)修正方法以及其有限记忆类形式(L-SBFGS),理论分析和数值测试表明,本文所提出的方法是有效的和数值稳定的.本文首先介绍无约束优化问题的求解方法,重点介绍BFGS算法和有限记忆BFGS算法的研宄及发展现状,并且提出了本文的工作设想.其次我们在CBFGS方法基础上,提出了带比例因子的修正BFGS (SBFGS)算法,与CBFGS方法比较,SBFGS方法产生的拟牛顿矩阵能随迭代进行而被有效修正,因而能更好地近似Hessian矩阵.而且我们证明SBFGS方法在求解非凸函数极小值问题时无论使用Wolfe搜索准则还是Armijo搜索准则来计算步长都具有全局收敛性.再次我们基于Byrd、Nocedal等给出的紧凑表示公式,将提出的SBFGS公式推广到有限记忆框架内,提出了一种求解大规模无约束优化问题的紧凑有限记忆SBFGS (L-SBFGS)算法,特别考虑了包含迭代信息的初始矩阵的选取技巧,然后分别证明该算法在Wolfe搜索准则和Armij o搜索准则下均有全局收敛性以及R-线性收敛速度.最后分别对所提出的SBFGS算法和L-SBFGS算法进行数值测试,并与已有的同类方法进行了数值比较.数值结果表明SBFGS算法和L-SBFGS算法改善了已有方法的数值效果.
其他文献
中国电影从诞生那一刻起,就与戏曲产生了不解之缘,这种缘分,一结就是一百余年。2015年迎来了中国电影的110岁生日,戏曲电影也诞生了110周年,今时今日,戏曲和电影已然相互依存
随着"粤港澳大湾区"建设不断深入,地处发展前沿的南沙明珠湾起步区C2单元成为近期热点地区。城市设计优化项目组介入前,C2单元已经历了控规编制(2013年)和城市设计(2014年)的
从1992年工作以来,我一直尝试以科学理念为先导,以现实问题为导向,以理论研究为动力,以实践行动为展示,探索职业化、科学化、专家化的发展路径,20余年的坚守让我收获了万余名
笔者对农民创业培训的重要性、受训特点和关键环节进行了研究,指出:建设社会主义新农村需要大批的创业人才,农民创业需要积极有效的创业培训和服务支持。构建创业培训、项目
本文主要研究因通谋虚伪表示导致行为无效的适用范围。主要论证内容包括对通谋虚伪表示行为的法律概念分析、通谋虚伪表示行为的效力以及由此引发的不同法律后果、不同学术观点、以及在司法实践中通谋虚伪表示行为的适用主要体现在哪几个方面等等。文章主体拟分为三个主要部分,首先,从我国通谋虚伪表示的法律规定出发,分析目前我国通谋虚伪表示的规定,其无效的原因,应为何种无效等;其次,从立法的角度,分析不同国家对于通谋虚
在对沙罐坪气田石炭系气藏生产管串分析中发现,绝大部分气井管串下深位置及结构不合理,且修井作业发现油管腐蚀严重,影响气井后期带液生产和修井作业.利用已有的研究成果,通
<正>静电纺丝技术是一种通过高压电场作用将聚合物溶液制备成纳米纤维的技术。该技术简单高效、使用广泛,制得的纤维直径在数十纳米到数百纳米之间,且比表面积大,在催化、过
<正>本论文使用双螺杆熔融共混制备了一种聚乳酸/环氧大豆油/纳米二氧化硅三元复合材料,在该体系中环氧大豆油为一种生物基增塑剂,而二氧化硅为一种无机填料,通过研究发现单