运动目标检测是许多视频分析应用中的关键步骤。由于真实视频数据通常存在相机抖动、光照变化和恶劣天气等复杂情况,导致基于背景减法的目标检测算法可能无法有效对背景信息建模,严重影响目标检测效果。因而具有鲁棒效果的鲁棒性主成分分析（Robust Principal Component Analysis,RPCA）在目标检测领域得到广泛应用。虽然RPCA模型被成功应用于目标检测领域,但是在经典RPCA模型中仍存在着一些亟待解决的问题:（1）经典RPCA模型不能有效对非高斯误差建模;（2）经典RPCA模型不能准确检测出运动目标;（3）经典RPCA模型没有充分利用视频帧时空相关性。本文围绕以上问题展开工作,主要研究成果及创新点总结如下:（1）首先针对经典RPCA模型无法有效约束非高斯误差,提出基于最大相关熵准则（Maximum Correntropy Criterion,MCC）的模型误差建模算法,使用MCC替代经典RPCA模型中的l2范数对模型误差建模,使RPCA模型对非高斯误差更加健壮。然后针对经典RPCA模型无法准确检测出前景目标,提出基于拉普拉斯混合尺度（Laplacian Scale Mixture,LSM）模型的前景目标建模算法,使用LSM模型替代经典RPCA模型中的l1范数对前景目标建模,显著提高RPCA模型的目标检测性能。为使经典RPCA模型既可对非高斯误差有效建模,也可准确提取复杂场景中的运动目标,最后联合使用MCC和LSM模型分别对模型误差和目标前景进行建模,提出全新的运动目标检测算法Hyper RPCA。（2）针对经典RPCA模型没有充分利用视频帧时空相关性,首先对时空拉普拉斯混合尺度（Spatial-Temporal Laplacian Scale Mixture,STLSM）模型进行研究,进而提出基于STLSM模型的运动目标检测算法。对于视频帧而言,在相邻帧间存在较强的时间相关性,同一帧局部像素间存在较强的空间相关性,但是经典RPCA模型没有充分利用到时空相关性。在本文STLSM模型中,使用前一帧的目标估计信息作为当前帧目标模型的先验,通过非零均值拉普拉斯模型对前景成分进行时间相关性约束,同时当前帧中具有局部相似性的像素间使用相同STLSM模型对其进行空间相关性建模。实验结果证明,通过有效利用时空相关性,STLSM模型的目标检测性能得到显著提升。