论文部分内容阅读
无导数优化方法是优化问题的重要组成部分。一般的无导数算法在其运行过程中都普遍利用目标函数值的充分下降条件。但是,在实际的应用中,充分下降这一条件很难满足。为了解决这一困难,本文研究了非单调的无导数优化方法。该方法无需计算任何梯度信息且不要求迭代点的滋数值严格减小,但仍然可以保证算法的收敛性。在这个理论框架下,研究了两类具体的优化问题—无约束优化问题和线性等式约束优化问题。
1.第二章提出了一个无约束最优化问题的非单调无导数优化算法。该算法利用满足一定条件的搜索方向集来克服梯度信息的缺乏,并利用沿着这些搜索方向以获得的目标函数的局部信息。并且该算法运用了“非单调”思想,从而不要求迭代点的函数值严格减小,但最终可收敛到无约束最优化问题的稳定点且可避免收敛到该问题的局部极大值点。
2.第三章提出了线性等式约束最优化问题的非单调无导数优化算法,并证明了这种算法的全局收敛性。该算法主要运用了“非单调”和投影梯度思想。通过计算约束条件中矩阵A的零空间的基底,使得在每一个非稳定点处至少存在一个可行的下降方向,并且在初始点是可行点的条件下,该算法产生的每一个迭代点都是可行点。此外,所抽取的方向集所在空间的维数由n维降低为n—m维,从而简化了计算过程,减少了计算量。