2011年,我国具有自主知识产权的第二代信源编码标准AVS2(Audio Video Standard Ⅱ)的视频部分正式立项,标志着我国在视频编码领域的发展又进了一步。AVS2编码标准的编码压缩率比AVS1提高一倍,与国际上流行的视频编码标准HEVC(High Efficiency Video Coding)相当。AVS2标准将对我国高清、超高清数字电视以及电子信息产业相关领域的发展起到推动作用。2016年3月15日,AVS2.0标准《高效音视频编码第1部分：视频》通过审查,将作为广电行业标准于近期发布。虽然AVS2编码标准已经接近最终标准的制定和发布,但是仍在不断完善和改进,具有很高的研究价值。本文首先介绍了对AVS2视频编码标准的帧内预测部分及其参考软件RD7.0的分析与研究,发现在四叉树递归结构的CU(Coding Unit,编码单元)划分和PU(PredictionUnit,预测单元)模式选择过程编码复杂度很高,是影响编码效率的主要原因。本文对CU划分算法和RDO过程做了重点研究,提出了一种基于空间相关性的CU划分提前终止算法,根据待编码CU的周围已编码CU所选择的最佳CU尺寸和亮度像素的均方差的比较,对CU划分的尺寸选择作出提前判决,降低了编码复杂度,提高了编码效率。并且根据CU划分的提前决策,优化了RDO(Rate-Distortion Optimization,率失真优化)过程,针对CU的不同大小,动态改变拉格朗日因子,节省了码率,减小了传输所需带宽。本文在多个QP(Quantization Parameter,量化参数)下对不同视频序列做了实验和统计。本文提出的CU划分快速算法使编码时间减少20%左右,基于CU划分提前判决的RDO优化算法使编码比特率下降6%左右。最后,本文将CU划分快速算法和RDO优化算法结合,并在多个QP下对不同视频序列做了实验和统计。实验结果显示,本文提出的两种算法结合后使编码时间平均减少22%左右,编码比特率平均下降5%左右。