Fused-LASSO惩罚最小一乘回归的统计分析与优化算法

来源 :北京交通大学 | 被引量 : 3次 | 上传用户:sme_william
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
高维线性回归模型之下,基于高斯噪声的最小绝对收缩和选择算子(LASSO)模型在变量选择和维数下降方面起重要作用.然而,在实践中高斯假设不一定成立.在这种情况下,最为流行且常用的是最小一乘方法.本文主要研究经由fused-LASSO惩罚的最小一乘回归,其估计系数以及相邻估计系数之间的差分都具有稀疏性,我们称之为稳健fused-LASSO模型.稳健fused-LASSO估计量不依赖于一些噪声的先行知识,如噪声的标准差或者噪声的任何矩假设.我们的结果表明稳健fused-LASSO估计量具有near oracle性质,即估计误差的L2-范数的阶为且以大概率成立.这个结果对于各种不同分布的噪声(包含柯西分布)都是成立的.除此之外,我们应用具有全局收敛性的线性化乘子交替方向法来求解稳健fused-LASSO模型.数值实验验证了我们方法的有效性.
其他文献
20世纪60年代末70年代,计算机理论学家D.Scott提出了Domain理论,为理论计算机科学的指称语义学奠定数学基础.但是,经典Domain理论中的二元序关系,只能够表达元素之间的定性信
为了更好地拟合数据,人们提出了许多不同形式的非参数回归模型,其中的变系数回归模型既保持了非参数回归模型的灵活性,又可以很好地克服维数灾难问题,而部分线性变系数模型作
近年来,连续格的推广引起了人们广泛的兴趣,赵东升博士引入了半连续格,伍秀华引入了交半连续格并讨论了一些简单的性质,本文在此基础上引入模糊交半连续格的概念,并深入探讨
图结构是一种广泛存在的数据结构,它具有清晰直观展现各节点之间关系的特点,是一种对现实世界的直观表达。图论作为当今图结构的理论基础,在社交网络、基因计算、社会图谱等
丢番图逼近是数论中的重要分支之一,在数学的其他方向也有着十分广泛的应用,如函数论、组合数学以及计算数学等领域。从最基本的有理数逼近到现在非常活跃的流形上的丢番图逼
随机延迟微分方程作为模拟自然现象和社会现象中“具有不确定性”和“受滞后影响”的系统行为规律的重要数学模型,在生命科学、经济学、环境科学、机械化工、控制等领域都有
本文的研究对象为奇异摄动Volterr积分微分方程,它来源于许多物理和生物问题,如扩散耗散过程,流行病动力学等。由于小参数的存在,解在很小的区域内变化非常剧烈,即所谓的边界
2003年,在Banach空间上Borwein和[1]Goebel研究了相对内部的概念,提出了伪相对内部.文章[2]把伪相对内部的概念应用在局部凸空间上的集值优化问题中.Banach空间和局部凸空间
本文研究了如下带有非线性源的快扩散方程组混合问题其中02)具有光滑的边界(?)Ω,u0,v0为L∞(Ω)中的非负函数.由于该方程组是退化的,一般来说不存在古典解,因此给出了弱解的
重夸克偶素是正反重夸克构成的二体束缚态,对检验和发展强相互作用理论有重要意义。非相对论量子色动力学因子化方案于1995年由Bodwin、Braaten、 Lepage等人提出,是目前研究