随机Kaczmarz算法（Randomized Kaczmarz Algorithm,RK）能够有效的求解超定或欠定相容线性方程组,对非线性相容方程组也有一定的效果。该类随机迭代方法以某种概率准则来确定每次迭代的作用行,其优势在于每次迭代仅利用所选的行进行迭代,计算量较少,适合求解大规模问题。最近,两种有效的概率准则被提出来改进经典的RK算法。本文利用松弛思想来进一步改进上述两种新的RK算法。首先,本文利用松弛思想改进新随机Kaczmarz算法（New Randomized Kaczmarz Algorithm,NRK）,给出相应的松弛版本（New Randomized Kaczmarz relax Algorithm,NRKr）并通过数值实验比较算法优劣。本文提出的第二个方法是松弛最大矫正Kaczmarz算法（Maxmial Correction Kaczmarz relax Algorithm,MCKr）用于求解线性问题。由于松弛参数的取值不同,本文给出MCKrf算法（固定松弛参数）和MCKrd算法（动态松弛参数）及其收敛性证明。针对非线性问题,本文给出非线性松弛最大矫正Kaczmarz算法（Nonlinear Maxmial Correction Kaczmarz relax Algorithm,NMCKr）及其收敛性分析。通过数值实验来展示改进后的算法在求解线性及非线性问题中的优势。其次,本文还将所提出的新算法与阈值算子结合来求解稀疏问题。本文将MCKrf算法分别与硬阈值算子、软阈值算子、m阈值算子相结合,给出其求解稀疏问题的相应算法,并通过数值实验进行比较。结合不同算法的优势部分,本文给出了松弛最大矫正Kaczmarz算法混合阈值版本（Maxmial Correction Kaczmarz relax mix Algorithm,MCKrm）,并且通过数值实验展示该算法的优势。