论文部分内容阅读
稀疏优化是指一类通过优化模型和相应的算法得到稀疏解的优化问题,它的理论、模型和算法仍处在发展中.近年来,稀疏优化在信号及图像处理、压缩感知、工程、金融、机器学习、数据挖掘、高维统计等领域获得了大量的应用,并且已经成为最优化领域中的一个新分支.本文主要研究了带有l0范数的稀疏离散优化问题的最优性条件和数值解法,对于带有l0范数的稀疏投资组合选择问题提出了一种更为高效的求解方法,并且针对指数跟踪问题提出了两类新的稀疏支持向量回归模型及对应的求解方法.本论文的主要内容概括如下:第1、2章简要地介绍了稀疏优化问题、稀疏离散优化问题以及稀疏投资组合选择问题、指数跟踪问题的发展和应用以及一些本文中所使用的理论的基本概念和结论.第3章研究了稀疏离散优化问题在不同约束规范下的最优性条件,提出了求解这类问题的增广Lagrange邻近交替(ALPA)方法.在适当的假设条件下,我们证明了由ALPA方法生成的迭代序列的任意聚点满足稀疏离散优化问题的一阶必要性最优条件,在进一步的假设下我们证明了迭代序列的任意一个聚点也是优化问题的一个局部极小值点.数值结果说明:我们提出的方法可以高效地找到问题的次最优解,与其它局部求解方法以及整数规划方法相比我们的方法框架更为简单计算效率更高.第4章研究了带有l0范数的稀疏投资组合选择问题的最优性条件,针对这一问题提出了更为高效的罚邻近交替线性极小化(罚PALM)方法,并且将这一方法推广为可求解一般l0极小化问题的方法.基于问题本身的特性,我们证明了由罚PALM方法生成的迭代序列的任意聚点满足问题的一阶必要性最优条件,并且在一个适当的条件下这一聚点也是问题的一个局部极小值点.以实际问题为背景的计算结果说明:我们提出的方法可以高效地找到问题的次最优解与其它局部方法相比更具竞争力.第5章将l0范数与支持向量回归模型结合提出了两类新的稀疏支持向量回归(稀疏SVR)模型以及求解这两类模型的罚PALM方法,并且将这两类模型应用于指数跟踪问题.基于问题本身的特性,我们同样证明了由罚PALM方法生成的迭代序列的任意聚点满足问题的一阶必要性最优条件,在一个适当的条件下这一聚点也是问题的一个局部极小值点.由实际数据得到的数值结果说明:当样本数据较少时稀疏SVR模型具有更好的可推广性和稳定性,尤其是对于大规模问题.