H.264/AVC作为新一代视频编码标准,在视频通信领域得到广泛应用。为获得更高的编码效率,H.264在帧内预测中引入率失真优化技术(Rate Distortion Optimization,RDO)求最优预测模式。虽然有效降低了空间冗余,但增加了编码时间和计算复杂度,导致H.264无法满足实时性要求较高的设备。因此在保证视频质量和压缩效率的前提下,如何最大程度降低计算复杂度成为视频编码标准的研究趋势。本文主要围绕帧内预测展开研究,主要工作内容如下:1.首先介绍了 H.264帧内预测模式选择算法的研究背景与意义,针对已有帧内预测模式选择算法中降低计算复杂度不高的问题,提出一种基于宏块预判的快速帧内预测模式组合算法。该组合算法是宏块预判算法与改进基于边缘方向直方图Pan算法的结合。2.根据编码宏块类型的特点,利用平均绝对误差(Mean Absolute Difference,MAD)值结合量化参数(Quantization Parameter,QP)设定阈值对编码块的平滑度进行预判,判断宏块类型;预判后的宏块采用三点梯度算子得到边缘矢量,利用改进Pan算法进行模式筛选,同时优先判断DC模式,获得候选模式集;最后通过RDO计算确定最佳预测模式。3.在标准测试模型JM8.6相同编码参数下,通过6个不同运动特性的(Quarter Common Intermediate Format,QCIF)视频序列验证组合算法的有效性与准确性。对比组合算法与全搜索算法、Pan算法在编码时间、码率、峰值信噪比以及计算复杂度之间的性能。实验结果表明:(1)预判算法编码时间平均下降了 11.23%,预判宏块准确度高达90.5%;(2)组合算法与全搜索算法相比编码时间平均减少72.4%,码率增加4.21%;与Pan算法相比编码时间减少28.6%,码率增加1.8%,峰值信噪比基本不变。(3)组合算法的RDO计算次数明显低于全搜索算法和Pan算法,减小计算复杂度。