由于运动估计算法作为现在视频压缩的主要技术,在实现视频高压缩率方面起到重要作用,但由于其计算复杂度的影响,严重限制了其在实时视频编码领域的应用,因此对运动估计算法的研究具有重要的研究价值和广泛的应用前景。随着高质量视频应用在可视电话、会议电视、安全监控、高清晰度电视等领域的扩展,使得快速运动估计算法的研究具有重要的实际应用价值。国内外对快速运动估计算法的研究成果较多,主要采用的技术包括,起始搜索点预测技术、设定提前终止阈值技术、减少不必要参考帧使用技术等。这些技术的使用降低了运动估计算法的计算复杂度。目前,虽然已经有很多快速的运动估计算法提出,但运动估计算法仍有进一步优化的空间。本文针对X264编码器中UMHexagonS算法的不足,提出了3个方面的改进。这些改进分别是去除原点重复检测、改变运动搜索策略和动态调整搜索窗大小。测试结果表明,对算法中的3个不足进行改进之后,算法在图像客观质量和编码后码率基本保持不变的情况下,编码速度有8.223%-16.063%的提高。在编码H.264/AVC标准中的一个宏块区域时,需要依次进行多种模式的运动估计,以及X264在实现时的特点。对此本文设计了一种可并行执行的程序框架,并分别利用OpenMP技术和Windows多线程技术实现。测试结果表明,设计的并行结构相比串行结构,在对编码质量和编码后码率影响不是很明显的情况下,编码速度有14.208%-40.984%的提高。如果关闭X264中已有的多媒体指令集加速,编码速度则有32.757%-53.089%的提高。