近年来新一代高效视频编码(HEVC)的快速算法受到越来越多的关注。为了获得更高的编码效率,HEVC在帧内和帧间编码时采用了多种新技术,如新的编码模式,灵活的编码结构等。这些技术的运用使HEVC获得比与之前的H.264视频编码标准更高压缩率,但也大大增加了它的编码运算量,影响编码的速率,给推广应用带来了巨大的挑战。因而HEVC的快速算法具有重要的应用价值,并且引起人们的关注。通常快速算法需要在编码质量和编码效率损失有限的前提下提高编码速率,主要包括帧内快速算法和帧间快速算法。本文针对以上问题,研究了基于HEVC的帧内快速算法。主要内容和创新点如下:(1)研究了HEVC帧内编码的编码单元(CU)划分,提出了基于CU纹理特征和深度关系的提前终止算法。HEVC的编码单元的划分采用了灵活的四叉树结构,在划分过程中需要对深度为0到深度为3的编码单元自上而下计算其率失真代价,从而决定编码单元的最终划分结构,大大增加计算复杂度。针对该问题,本文从两个方面研究了通过提前终止编码单元的划分减少编码复杂度的方法。一种是设定参数表征编码单元的纹理特征,设定阈值实现编码单元的提前终止划分;另一种是基于当前编码单元的深度与周围编码单元的深度的关系分析,实现编码单元划分的提前终止。(2)研究了帧内预测单元(PU)的快速模式决策。在HEVC帧内编码的PU模式选择过程中,需先对35种帧内预测模式进行哈达玛运算,粗选择出候选模式集,再根据相邻的编码单元得到最可能模式(MPM)加入到候选模式,最后对候选模式计算率失真代价值,选出率失真代价值最小的为最佳帧内预测模式。针对高复杂度的模式选择过程,本文提出减少粗选择的预测模式个数来减少计算复杂度,在jiang的基于像素梯度的快速模式选择算法基础上进行了改进,通过统计每个2×2子块的边缘方向得到当前预测单元的边缘方向,从而减少候选模式个数。(3)基于以上研究,本文进一步分析了帧内编码中编码单元的划分过程和模式选择过程的关系,综合了编码单元的划分过程和预测单元的模式选择过程的研究,提出融合快速PU模式与CU深度关系或基于CU纹理特征的两种HEVC的帧内编码快速算法。论文给出了详细的实验方法和结果分析,实验结果表明,本文提出的快速算法在对编码质量影响较小的前提下,可有效提高帧内编码的速率,从而验证了上述工作的正确性。最后本文总结了全文的工作,并展望了本课题的进一步工作方向。