新一代视频标准H.264主要优势在于：更高的编码效率、更好的图像质量、更强的时延适应性、更强的容错能力、以及更好的网络适应能力。为了实现更高的编码效率,H.264标准采用了很多新的编码技术,如多参考帧预测、多尺寸编码块模式、1/4像素精度运动矢量、整数变换量化、基于内容的熵编码、新型帧内预测、去除方块效应的滤波器等。在保证相同解码图像质量下,H.264比MPEG-2和H.263的编码性能至少提高一倍以上。与此同时,H.264编码器的计算复杂度与其它视频压缩标准相比,高出了几倍甚至十几倍,需要消耗大量的时间和系统资源。因此,基于PC平台的实时编解码器实现面临巨大的挑战,需要寻找高效的优化算法,以减少巨大的计算复杂度。 本论文首先介绍了H.264视频标准的基本概念、主要特性以及在国内外的研究现状,另外还介绍了数字视频编码的一些基本知识,然后详细讲述了宏块预测的模式选择算法,并且分析了H.264参考模型软件JM86中的编码器的流程图,考察了H.264标准的算法复杂度特性和编码性能,对参考模型的编码复杂度做了分析。最后重点分析了针对于JM86编码器的优化策略以及H.264编码器的实现,在参考模型JM86编码器的基础上对帧内帧间预测模式选择部分进行了改进和优化,并给出了试验结果和结论。