论文部分内容阅读
本文针对非线性不等式约束的优化问题,有界约束的Unary优化问题以及线性不等式约束的Unary优化问题,提出了解决这些问题的各类有效的线搜索方法.在合理的假设条件下,保证了算法的整体收敛性和局部收敛速率.数值实验证实算法是可行的且有效的.线搜索技术是保证优化方法整体收敛的基本策略之一,用线搜索确定搜索步长计算量较小.Fletcher和Leyffer提出的过滤方法,代替了传统的罚函数方法求解非线性约束最优化问题,此方法的基本思想是如果目标函数或约束违反度在试探点的值比在当前迭代点的值有一定程度的减小,就接受此试探步作为下一步迭代点.过滤方法区别于罚函数方法的一个显著优势是不涉及估计罚参数,而罚参数增加了计算量和难度.第二章给出了求解非线性不等式约束最优化问题的过滤线搜索序贯二次规划法.搜索方向通过求解二次规划得到,步长由回代搜索过程得到.在合理的假设条件下,得到了整体收敛性的结论.为了避免Maratos效应,引入二阶修正步,从而得到了局部超线性收敛速率.数值结果表明算法是有效的.第三章提出了基于拉格朗日函数的过滤线搜索法.与前一章方法的不同之处在于用拉格朗日函数而不是目标函数作为价值函数.通过使用拉格朗日函数代替目标函数,不需要引入二阶修正步就避免了Maratos效应,从而也得到了局部超线性收敛速率,同时算法整体收敛,并用数值结果验证算法的有效性.线性鲁棒回归问题以及信息理论中熵最优化问题的对偶问题的目标函数都是Unary函数.第四章对于有界约束Unary优化问题,提出了仿射线搜索方法.通过引入仿射矩阵,把有界约束的Unary优化问题转化为无约束最优化问题,并且用秩-1校正方法校正Hessian阵的近似,搜索方向由修正的牛顿方法得到.通过使用内点线搜索技术,保证了算法产生的每一个迭代点都是严格可行的.通过合理的假设,算法的整体收敛性和局部收敛速率得到了证明.数值结果表明算法是可行的.第五章对于线性不等式约束Unary优化问题,提出了无导数线搜索方法.在许多实际问题中,函数的梯度要花很大工作量求出,在这种情况下,用无导数方法求解问题比较实用.在适当的假设下算法整体收敛,同时在强二阶充分条件下,通过使用指示函数,即使没有严格互补的假设也得到了超线性收敛速率.