随着网络传输技术和多媒体技术的发展,与视频有关的应用开始逐步影响着人们的工作、学习和生活。视频可以带给人直观、准确、生动的信息,但是未经处理的视频所包含的信息量巨大,无法直接用来传输或者存储,因此人们对视频的编码和压缩技术产生了越来越高的需求。为了解决这一问题,国际标准化组织一直致力于研究和开发新的视频编码技术。2013年,视频编码联合组制定出了面向高分辨率、高帧率和高压缩率的新一代视频编码标准——高性能视频编码(High Efficiency Video Coding,HEVC)。HEVC通过应用各种先进技术来提高视频编码的效率,可以在达到同等编码效果的前提下,比上一代视频编码标准H.264/AVC的编码性能提高近一倍。与此同时,这些技术也大幅增加了整个视频编码过程的计算复杂度。因此,提高HEVC的编码速度,降低其编码复杂度具有重要的研究意义。本文通过分析HEVC的编码特点,将重点放在高性能视频编码中的低复杂度算法研究上,从帧间预测、帧内预测、样点自适应补偿和熵编码四个方面分别提出了降低编码复杂度的优化算法,取得了4项创新性研究成果:(1)提出了基于编码比特数的帧间预测单元划分优化算法。该算法利用HEVC灵活的四叉树结构,根据当前编码单元的运动剧烈程度确定编码单元划分的阈值,并进行自适应调整,将编码运动信息所需的比特数作为单元划分的提前终止条件,可以跳过某些不必要的单元划分遍历操作和相关的率失真代价计算,从而有效降低编码复杂度、减少编码时间。实验结果表明,本文所提算法平均可以减少46.1%的编码时间,而编码性能仅有少量的下降。(2)提出了基于视觉显著性的帧内预测复杂度控制算法。该算法首先分析不同深度编码单元占总编码时间的百分比以及编码单元视觉显著性与其单元划分之间的关系,根据设定的目标复杂度对不同的划分深度设置不同的视觉显著性阈值,提前判断当前编码单元是否需要继续划分。实验结果表明,本算法可以在较小的视觉损失下,有效控制帧内预测的编码复杂度。(3)分别提出了基于单元划分深度的快速样点自适应补偿算法和基于视觉显著性的样点自适应补偿优化算法。第一种算法通过分析目前视频编码标准中样点自适应补偿值和编码单元划分深度之间的关联,将视频按照其纹理复杂度进行分类,对于高频区域进行标准的自适应样点补偿操作;对于中频区域,进行适度的样点自适应补偿;而对于低频区域,通过跳过某些不必要的样点自适应补偿处理,提高样点自适应补偿的编码效率。第二种算法通过建立视频的视觉显著性模型,对视觉显著性较低的编码单元不再进行样点自适应补偿,从而可以在不引起视觉质量下降的前提下,降低样点自适应补偿的编码复杂度。实验结果表明,两种算法均可以减少样点自适应补偿的编码时间。(4)提出了针对变换系数熵编码的优化算法。分析基于上下文自适应二进制算术编码和旁路编码两类熵编码方法各自的特点,根据变换系数大都是零或一些绝对值较小的数这一特性,将原来采用上下文自适应算术编码方式的语法元素改变为采用旁路编码方式,达到降低变换系数熵编码复杂度的目的。实验结果证明,与标准的HM-10.0算法相比较,采用本算法能够有效降低变换系数熵编码的编码复杂度。