新的求解超大规模最小二乘问题的随机算法

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:liyyng1987
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最小二乘法是误差拟合、模型估计的常用方法,在科学技术领域有广泛的应用.对于超大规模的最小二乘问题,在通常情况下得不到精确解,而利用传统的矩阵分解方法在规模增大的情况下会大大增加求解时间和空间复杂度.随着随机算法的不断成熟以及它所具有的简单快速的优点,为不精确求解最小二乘问题提供了一种有效方法.本文主要介绍了一种新的随机算法求解最小二乘问题.  一方面,本文首先介绍了求解最小二乘问题的随机投影算法——Blendenpik算法及其在求解过程中表现出来的优势,并指出其不能求解超大规模最小二乘问题的缺点.进一步对此算法进行改进并提出通过对超大规模矩阵的行进行随机采样,为了改进矩阵的一致性,通过快速walsh-Hadamard变换对采样后矩阵进行变换,将矩阵的维数降低,最后,对新得到的最小二乘问题利用QR分解进行求解.  另一方面,本文证明了新算法得到的解满足误差边界,以及解的收敛性问题,并分析算法求解需要的时间和空间复杂度.最后,通过数值试验表明随机采样算法相比与 Blendenpik算法和QR分解算法在求解时间上要小,并且在计算机内存限制的情况下新算法比Blendenpik算法和QR分解求解的规模要大.
其他文献
非负稀疏优化是指利用待恢复变量的稀疏性,寻找一个带有非负约束的欠定线性等式系统最稀疏的解.在向量空间,该问题实质上是非负l0极小问题;而在矩阵空间,该问题表现为半定秩极小
随着科学技术的发展,奇异椭圆边值问题和非局部椭圆边值问题具有越来越广泛的应用背景和深刻的数学意义,它们已经成为数学工作者和其他科学工作者关心的重要问题.本文对给定的
崩塌是斜坡岩土的剪应力大于抗剪强度时,岩土在剪切破裂面上未发现有明显的位移,突然向临空倾斜,快速地顺坡翻滚而下的破碎现象,是不同结构面和裂隙面的组合与切割导致危岩体脱落
摘 要:物探作业为临时性的野外流动作业,是石油资源开发的第一道工序。本文简要分析了2011至2012年某物探公司275个物探施工项目驻队HSE监督员上报员工违章行为的基本特征,讨论了纠正习惯性违章的必要性,并通过“自我规范安全行为养成”研究,讨论了不安全行为的矫正。  关键词:安全管理 违章 行为矫正 石油 勘探 物探  一、引言  违章指挥、违章操作和违反劳动纪律现象,是构成事故的主要致因。据统
图像分割是图像处理的基础,分割质量直接影响到其后中高层处理的成败。图像软分割由于其良好的分割效果而被广泛应用。基于模糊聚类和基于模糊连通度的图像软分割算法是两种常
微型机械的制造正迅速成为小型化技术的前沿领域。有着微米量级可移动部分的机械在化学分析、生物分析和光学信息处理中已经有了样机。拥有上百万可移动小镜的设备可能将很快