图形处理器(Graphics Processing Unit,GPU)具有极高的计算性能和相对廉价的成本,并且性价比以超过摩尔定律(Moore’s law)的速度发展。以Nvidia公司为代表的厂商推出了一系列具有强大浮点计算能力和并行特性的GPU。GPU在通用计算领域图形处理器(GPGPU)领域取得了长足的发展,基于GPU平台的通用计算也正在成为一个计算领域的研究和应用热点。H.264/AVC是由ISO/IEC和ITU-T共同推出的新一代视频编码标准。然而,它采用可变分块大小运动估计/补偿,多种帧内预测模式等新的编码特征工具,计算复杂度高。X.264是完全符合H.264/AVC标准的开源编码器。与H.264/AVC校验模型相比,X.264已经进行了一些算法和程序结构优化。考虑到视频编码器的计算需求和GPU的通用计算能力,本文利用GPU的强大浮点计算能力和并行特性,研究基于GPU平台的X.264视频编码器的优化与实现。具体地,本文的主要工作和贡献如下:首先,详细分析了X.264视频编码器的结构,特别是其在函数层次、数据结构层次等方面的缺陷,并对其并行性和GPU平台移植进行了可行性分析。此外,利用Intel Vtune性能分析器,对X.264编码器的性能进行了实际的测试。通过统计分析,得到了X.264视频编码器的主要函数和各功能模块的耗时情况。这样,为选择X.264编码器中计算耗时且具有一定并行性的模块进行GPU并行优化奠定了良好的基础。其次,在分析X.264运动估计算法的基础上,对绝对差之和(SAD)的计算及其大小比较进行并行优化,并采用统一计算设备架构(Compute Unified Device Architecture,CUDA)编程在GPU平台上进行实现。H.264/AVC视频编码器的运动估计是按照块进行的,本身具有较高的并行性,适合于GPU实现。本文以全搜索为例,将最佳块匹配准则,即SAD的计算及其比较移入GPU完成,并且采用单指令、多线程(SIMT)实现,从而加速了运动估计过程。对于Foreman等典型的视频测试序列进行实验测试,实验结果表明,提出的全搜索运动估计GPU并行化方法能够提高运动估计效率约6-8倍。并且,视频的空间分辨率越高,搜索范围越大,GPU加速的效果越显著。与基于H.264/AVC校验模型的全搜索运动估计GPU相比,它的加速比相当,但运动估计模块的实际时间开销有所降低。