H.264/AVC是由ITU_T视频编码专家组VCEG(Video Coding Experts Group)和ISO/IEC运动图像专家组MPEG(Moving Picture Expert Group)共同制定的视频编码标准。较之以往的编码标准,在同等的图像质量下,H.264的压缩比是MPEG-4的1.5到2倍。H.264/AVC具有高效的编码效率,更适合低带宽、高质量网络视频应用的需要。H.264/AVC使用率失真优化算法进行模式选择判断和高效的运动估计算法,有效降低了时域和空域的信息冗余,但同时也增加了视频编码器的复杂性。为了方便H.264在低码率高实时性系统中的应用,需要对其编码算法进行优化,而模式选择是其核心算法之一。因此,如何提高模式选择的效率,使模式选择过程更加高效,更加健壮成为目前视频编码研究的热点之一。本文首先论述了H.264视频编码标准的基本原理和关键技术；然后介绍了视频编码的模式选择算法,并分析了其算法SKIP策略判断准确性较低、鲁棒性较差的缺点。根据宏块直方图对场景变化的弱敏感性和率失真算法对帧间差异的高判别性,提出了一种基于宏块直方图和最小率失真的模糊判别方法。本文以不同运动程度的视频序列为测试对象,利用改进后的模糊判别方法,有效地提高了SKIP策略的判别率,从而加快了视频编码效率。测试实验表明,帧间编码模式选择时间平均节省18.15%,平均信噪比(PSNG)仅减少0.03dB。最后,本文根据H.264编码器编码层次结构,针对帧级并行和片级并行数据相关性强不利于并行实现的缺点,提出了一种基于多帧多片的并行方法,将片编码分割为片前编码、片编码和片后编码降低了数据依赖性,并利用OpenMP实现了片级并行编码。测试实验表明,在保证图像质量情况下,码率平均提高4.087%,编码速度平均提高45.43%。