【摘 要】
:
次梯度算法是求解非光滑凸优化问题的一种经典的方法,是解决大规模凸优化问题的经典和有效的方法.因为次梯度算法不是下降算法,所以步长准则的选取对次梯度法的收敛性有着至关重要的作用.目前为止,常用的几种步长准则是递减步长准则、发散步长准则、Polyak步长准则和动态步长准则,其中递减步长准则和发散步长准则的收敛性不好;Polyak步长准则在一定条件下线性收敛,但是Polyak步长准则依赖于函数的最优值.
论文部分内容阅读
次梯度算法是求解非光滑凸优化问题的一种经典的方法,是解决大规模凸优化问题的经典和有效的方法.因为次梯度算法不是下降算法,所以步长准则的选取对次梯度法的收敛性有着至关重要的作用.目前为止,常用的几种步长准则是递减步长准则、发散步长准则、Polyak步长准则和动态步长准则,其中递减步长准则和发散步长准则的收敛性不好;Polyak步长准则在一定条件下线性收敛,但是Polyak步长准则依赖于函数的最优值.为解决Polyak步长对最优值的依赖问题,Kiwiel和Gofin在[Math.Program,1999,85(1):207-211]提出动态步长准则,其主要思想是根据得到迭代点的函数值动态更新最优值的估计值.该准则中有两个重要的参数需要事先给定,这两个参数的选取对算法的收敛效率有重要的影响.该文主要研究的内容是动态步长准则的次梯度算法,主要的工作是修改原动态步长准则下次梯度算法中的两个重要的参数,得到两改进的动态步长次梯度算法,并分别证明了这两个算法的收敛性.在第一次修改中,保留了其中一个参数及其更新规则,同时在算法中动态更新另一个参数;在第二次修改中,只采用一个参数,并对该参数采用新的更新规则.最后通过数值实验得出,两种新的算法在某些问题上能更快的下降到问题的最优值.该论文也对几种常见的步长准则做了数值实验,从实验的结果得出Polyak步长准则的收敛性要好于其他的步长准则.新算法的计算效率不如Polyak步长准则,但是优于其它步长准则.因为Polyak步长准则依赖于最优值,所以该论文提出的新算法更具操作性,且比原动态步长的次梯度算法更有效.
其他文献
随着科学技术的发展,案件场景重建技术已成为收集证据、侦破案件和汇报工作的重要手段之一。传统的现场勘查的卷宗重建方式效率低下、主观性强、局限性大,不能满足当前时代的
AIP动力系统的应用使得常规潜艇的长时间潜航成为可能,但随之而来的是潜艇废气浓度随时间的持续增高。潜艇废气管理系统将这些气体排入大海时会形成大量的气泡,这些气泡改变
再入弹道目标跟踪是弹道导弹防御系统的核心问题,跟踪系统性能的优劣直接影响着对弹道导弹的拦截成功率。跟踪的任务就是解决如何从观测设备(如卫星、雷达、传感器等)中得到
发电机是风电机组故障诊断的关键部位之一。作为风电机组主要的能量转换设备,发电机的健康状态可以通过其工作温度进行监测。通过构建双馈异步风力发电机的等效热网络模型,实
在日常生活当中,人们经常会受到恶劣天气的影响,比如大雾天气、大雪天气、暴雨天气,这些恶劣天气不仅影响着人们的正常出行,还会对拍摄的图像或者视频造成干扰降质。本文的研究目的就是如何减小这种恶劣天气对计算机视觉系统的影响并且恢复被恶劣天气干扰的图像。由于深卷积神经网络的发展,单幅图像去雨的研究最近取得了很大的进展。然而,现有的这些方法都将卷积神经网络看作一个封装的端到端映射模块,没有深入探讨神经网络设
C语言是一种很好的结构化程序设计语言;结构化程序设计方法可以概括为自顶向下、逐步求精、模块化、限制使用goto语句,将原来较为复杂的问题化简为一系列简单模块的设计;一个
衰老是植物生长发育关键组成部分,是指植物特定细胞、组织及整个植株发生一系列程序性细胞死亡的过程。衰老是影响水稻产量稳定性的主要因素之一,延迟水稻的衰老可以提高其产
炮塔等军用装备的性能高低在国防建设中具有举足轻重的地位。但这些装备通常处于非常恶劣的外部环境和复杂的工况中,工作时受到强烈振动,容易引发各种问题,如瞄准具损坏、紧固件
<正>今年是我国著名的物理学家和杰出的教育家芶清泉教授诞辰100周年.先生的学术生涯长达七十余载,他对我国原子分子物理、固体物理、高压物理、物理力学等学科领域的发展做
庆祝中国人民解放军成立90周年文艺晚会《在党的旗帜下》在央视播出后,引起观众强烈反响,赢得广泛赞誉。今天,专版推出相关评介文章、基层官兵微评,以期通过不同视角品评、理解这