部分可分最优化问题的稀疏拟Newton法的收敛性质

来源 :湖南大学 | 被引量 : 0次 | 上传用户:gonewind
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
拟Newton法是求解最优化问题的一类十分有效的算法。该类算法的主要优点有,在一定条件下算法具有全局收敛性和超线性收敛速度,并且无需计算目标函数的二阶导数。因而拟Newton法已成为求解中小规模最优化问题的一类最受欢迎的算法。然而拟Newton法产生的矩阵通常稠密的。因此,该类算法难以直接用于求解大规模最优化问题。为了使得拟Newton法能用于求解大规模最优化问题,学者们提出了多种形式的稀疏拟Newton法。这些稀疏拟Newton法充分利用目标函数的Hessian矩阵的结构和稀疏性,使得拟Newton矩阵具有与目标函数的Hessian阵相同或相似的稀疏结构。从而可用于求解大规模最优化问题。   迄今为止,关于稀疏拟Newton法的研究主要集中于关于算法的局部收敛性方面,并已取得许多重要成果。关于稀疏拟Newton法的全局收敛性研究尚不多见。本文主要研究具有部分可分结构的最优化问题的稀疏拟Newton法。侧重于BFGS和DFP拟Newton法的研究。该算法能保证拟Newton矩阵具有与目标函数的Hessian阵相同的稀疏性。算法产生的方向是目标函数的下降方向。在一定的条件下,证明算法DFP算法局部超线性收敛性和CBFGS算法用于求解非凸函数极小化问题时具有全局收敛性和超线性收敛性。而且,单位步长最终可以取得,研究的问题包括目标函数的Hessian矩阵为三对角矩阵和五对角矩阵这两类特殊问题。还进行了数值试验.结果表明本文提出的部分可分稀疏拟Newton法明显优于通常BFGS算法和某些稀疏BFGS(SBFGS)算法。特别是在求解大规模稀疏优化问题时,尤为明显。  
其他文献
本文围绕微分算子领域的一个重要问题--谱问题开展了研究.首先考虑的是[0,π]上,一类带一般分离型边界条件的二阶正则Sturm-Liouville问题的特征值与特征函数的渐近表示.利用F
本文将格作用在半格上得到L-半格的概念,研究了具有最大元的格作用在半格上得到L-半格的正则性的理论,主要包括以下几个方面的内容:L-半格的正则性、投射性、忠实性之间的关
本文研究带有服务员休假且在休假时间中根据Min(N,D,V)-控制策略可立即中断休假的M/G/1排队系统,分为两个部分:(1)在第一章中,将“服务员单重休假”引入到Min(N,D,V)-控制策略的M/G/1排队系统中,即在系统变空时服务员只允许进行一次休假.运用全概率分解技术,讨论了在任意初始状态条件下系统队长的瞬态和稳态性质,得到了队长分布瞬态解的L变换表达式和队长稳态分布的递推表达式,进一步给
学位
混沌现象是一种在自然界广泛存在的由确定非线性动力系统生成的貌似随机的复杂行为。混沌时间序列分析与预测是一个重要的问题。在本文中我们研究了不同数据混沌特性的计算规
随着互联网的迅猛发展,人类社会已经大步迈进了网络时代。在网络信息给人们带来诸多便利的同时,也给人类生活带来了一定的负面影响,其中代表着这把双刃剑的网络舆情也逐渐成
一借高利贷就很难停下来,到后来,曾成标只能拆东墙补西墙,利息也从原来的2分多飙到5分多,直到后来实在无力支撑,资金链就断了。  曾成标,福建人,不到40岁,当过民警。脱掉警服下海的曾成标,在安溪妻子的“辅佐”下,经营起“茶之初”品牌。  高峰期,曾成标的“茶之初”有3家连锁店,每家店都很豪华,集茶叶卖场、体验会所、茶具艺品为一体,功能齐全,在业界一度拥有不错的口碑。  曾用心经营品牌  谈起曾成标