论文部分内容阅读
无约束优化问题作为最优化的基础,在交通运输、工农业生产、金融、贸易等众多领域有着广泛应用.许多优化学者都致力于设计同时具有较强理论性质和数值性能的优化算法.伴随着信息技术的飞速发展,变量维数剧增及结构复杂性增强,能有效求解大规模无约束优化问题的算法显得尤为重要.同时,许多问题也可以通过包含高维数组的张量进行描述,而张量特征值问题作为张量理论的重要研究方向之一,在实际应用中也是热点所在.本文针对大规模无约束优化问题,提出基于无记忆BFGS校正的三项共轭梯度法和带有参数选择的新加速共轭梯度法;针对张量特征值问题,提出求解对称张量Z-特征值的无导数谱共轭梯度法和求解对称张量广义特征值的自适应信赖域法.具体研究内容及创新结果如下:首先,结合无记忆BFGS拟牛顿技术,提出一种求解大规模无约束优化问题的三项共轭梯度法.算法产生的搜索方向可以看成是负梯度方向,相邻两次迭代点之差与相邻两次梯度之差的线性组合,且同时满足下降性质及Dai-Liao共轭性质.在适当条件下,证明了该算法是全局收敛的且数值表现很好.由于在算法的执行过程中并不需要计算或存储目标函数的Hessian阵或其近似,因此,十分适用于求解大规模问题.其次,提出一种求解大规模无约束优化问题的加速共轭梯度法.加速技术用于步长的确定,即满足一定条件时步长以倍数增加的方式修正.搜索方向中参数的选取使得其既满足充分下降条件又满足Dai-Liao共轭条件,并且在参数的计算过程中并没有增加额外的计算及存储花费.由于参数中包含更多有用信息,因此,大大改善了算法的数值表现.在适当条件下,建立了算法的全局收敛性.数值实验表明该算法在求解维数很大的问题上具有强竞争力.第三,将对称张量Z-特征值问题转化为非线性方程组问题.基于无导数思想,提出一种无导数谱共轭梯度法.算法的优势是在执行过程中不需要计算或存储任何函数的Jacobian矩阵或其近似,从而避免了张量特征值问题中繁琐计算量和高存储需求的不足.在回溯线性搜索条件下给出算法的全局收敛性定理及证明.初始数值结果表明该算法的有效性和可行性.第四,利用变分原理,将对称张量广义特征值问题转化为单位球上的齐次多项式优化问题.结合投影思想及自适应技术,提出一种自适应信赖域法,进而得到对称张量广义特征值.算法不仅可以保证每个迭代点可行,而且信赖域半径也可自动更新.证明了该算法的全局收敛性、局部二次收敛性及问题最优解的二阶必要性条件.与现有算法的数值比较说明该算法的有效性.最后,给出了总结和展望,并确立了今后研究课题的目标及方向.