HEVC是继H.264/AVC之后推出的新一代视频编码标准，通过改变图像划分方式、使用新的编码技术等方法使得在保证相同图像质量的前提下，编码效率提高了一倍。付出的代价则是算法复杂度的大幅提高，使得目前的硬件平台很难实现高清视频的实时编码。另一方面，GPU近年来获得了超摩尔定律的发展，一些非图形领域的问题也可以使用GPU进行加速处理。NVIDIA推出的CUDA编程模型使得GPU的通用开发应用更加简单灵活。针对HEVC编码中产生的耗时等不利因素，本文详细研究了CUDA编程模型原理和HEVC视频编码技术，就化帧内预测、变换与量化以及帧间预测等三个模块进行了优化。论文的研究工作主要反映在:（1）在帧内预测中，我们降低了帧内预测各像素点之间的数据依赖关系，在图像质量损耗不是很大的情况下实现了帧内预测在CUDA上并行处理。（2）在对预测残差进行变换与量化时，由于数据之间依赖性很小，所以可以直接对变换和量化进行并行优化，我们分别使用全局存储器和共享存储器来实现并行，从而优化了并行速度。（3）帧间预测是编码过程中最耗时的阶段，我们通过选择合适的运动估计搜索算法，并行处理了运动估计过程中的绝对误差和（SAD）值计算，并对预测单元的SAD值合并处理，减少了总体的SAD值运算量，从而提高了编码效率。实验仿真表明，优化后的H.265视频编码在加速性能上得到了相应的提高。但是由于实验硬件条件的限制，加速比没有想象的那么高。