近些年来,随着各种恐怖袭击事件和民航安全事故接连不断的出现,社会对公共安全的需求比以往更加强烈,视频监控技术受到前所未有的关注。如何提高视频处理的智能化度、拓展其应用领域、提高系统的性能已经成为研究和应用领域的一个热点。复杂条件下的视频图像分析是其中的一个突出方面,其处理结果的优劣直接影响到后续的视频理解。本论文主要对视频监控相关的关键技术进行研究,研究内容涉及在复杂场景下的目标检测和目标跟踪两个方面。目标检测方面,首先介绍了目前运动目标检测领域常用的几类算法,并阐述了这些算法应用于不同场景时的优缺点。接着,本文对混合高斯背景建模方法展开了深入地研究。最后,本文针对混合高斯模型对光线变化较为敏感、模型冗余度过高等问题提出基于GVF-Snake模型的多约束混合高斯模型法,并通过实验结果证明了本文方法在复杂背景下的有效性。目标跟踪方面,主要研究了基于颜色特征的粒子滤波跟踪方法。首先,本文介绍了粒子滤波理论以及其实现方法,利用粒子滤波理论来解决目标跟踪问题,构建基于粒子滤波的跟踪框架。随后,针对基于颜色特征的粒子滤波方法存在的问题,提出了基于颜色和纹理信息融合的遗传粒子滤波方法,并通过实验仿真验证本文跟踪方法的有效性。最后,本文分析了目标常态与异态情况下跟踪的维持,并初探了目标的出现、消失、合并以及遮挡问题。在此基础上,引入了最近邻数据关联和信任度理论,并针对目标不同的异常情况进行实时的检测和处理。