高维数据的主要特征是样本量大以及维数高。正则化技术是用于处理高维数据的重要研究工具之一,其广泛应用于统计学、信号处理、机器学习和人工智能等多个领域中。稀疏正则化近年来受到了很多学者的关注,其目的是在模型的拟合效果和稀疏解之间找到一个权衡点。新技术的发展带来了更多的高维复杂的数据集,这促使人们开始考虑使用更为结构化的正则化方法。近年来,针对高维问题的结构正则化方法的研究层出不穷。将结构信息引入到回归模型中可以提高模型的预测精度和模型可解释性。尽管对结构正则化方法的研究已经取得了令人鼓舞的进展,但仍有许多的工作留待解决。因此,本文在前人研究的基础上,对高维下的结构正则化方法的进一步研究进行了探讨。具体而言,本文的主要研究工作可以概括如下:第二章中研究了稀疏高维线性模型中带有额外的约束信息的结构正则化方法。由于非负约束较为简单且应用广泛,本文提出了非负约束下的非负分层lasso估计,可以同时实现组间和组内变量的选择,即两级选择。本文分别研究了非负分层lasso估计在低维和超高维下的理论性质。此外,本文还提出了一种快速的迭代半阈值局部线性逼近算法（IHT-LLA）来求解。最后,本文通过模拟研究以及在指数跟踪中的应用,验证了非负分层lasso方法相比于其他带有非负约束的正则化方法的优越性。第三章和第四章中主要研究了基于平方根损失的结构正则化方法。因为基于最小二乘损失的正则化方法都存在一个共同的缺点,即其正则项参数的最优值依赖于噪声水平σ,而在维数p较大时,精确估计σ与原始的估计问题一样困难。所以一些学者提出使用平方根损失函数来代替常用的二乘损失函数,基于平方根损失的正则化模型可以在不依赖于噪声水平σ的条件下实现估计的最优性。这使得平方根正则化模型在维数p较大时相比于最小二乘类方法更具吸引力,特别当p（?）n时。第三章中结合了平方根损失函数和形式如（?）2,1+（?）2的组弹性网罚项,提出了一种新的平方根正则化方法,称之为组平方根弹性网。在理论分析中,我们研究了在满足组弹性网不可表示条件下估计的正确子集恢复性质。本文同时建立了估计的慢速率界和快速率界,后者需要满足限制特征值假定。为了求解,本文提出了一种基于多元软阈值迭代选择思想的算法,并证明了算法的收敛性。模拟和实证分析都展示了新方法相对于其他方法的优越性。将平方根正则化方法应用于处理呈现分段平滑特征的信号分析时,第四章中提出了一种新的基于平方根损失的结构化平滑方法,用以同时选择组变量并实现组内的分段平滑特性。本文证明了在满足对设计阵的一些较弱的假定下,估计在既不依赖于真实的噪声水平σ,也不需要事先估计σ的前提下,就可以实现最优估计和预测。为了求解,本文提出了一种尺度调整的对偶前向后向分裂算法,并证明了算法的收敛性。最后,本文通过数值模拟以及在肿瘤数据集和灰度图上的应用验证了新模型的良好表现。