随着通信及网络技术的发展,视频通信得到了比以往更广泛的应用。在视频通信中,为了在有限的信道带宽上传输视频,需要首先对原始视频信号进行有效的压缩。码率控制是视频压缩编码的重要组成部分之一。码率控制的目标是在压缩后视频质量和编码产生的码率之间达到适合实际应用需求的平衡点。在实际系统中,码率控制需要在压缩后图像的客观质量、主观质量、实际码率、硬件限制、信道传输时延约束及特定应用需求之间做出权衡取舍。合理有效的码率控制能够在保证视频质量的同时提高信道的利用率,在有限的信道带宽下高效传输视频信息。H.264/AVC是当前视频通信中最常见的视频压缩编码标准,JVT-G012是其主流码率控制算法。JVT-G012在编码后视频质量和编码器缓冲区占用量之间取得了较好的平衡,但也有一些不足之处。针对JVT-G012的不足,相续出现了从不同角度对其进行改进的算法,如率失真模型、率失真优化、复杂度估计、缓冲区控制、信道估计、场景切换检测与处理、多序列联合码率控制及基于感兴趣区域的加权等。在本文中,以自上向下的角度,考虑到视频通信的特点,选择P帧间目标比特分配、场景切换的检测与处理及多序列联合码率控制等三个方面,进行了深入系统的研究。首先,论文针对同一GOP中各P帧的目标比特分配问题,提出了一种基于信道带宽充裕度和复杂度估计的帧层码率控制算法。采用信道带宽充裕度衡量视频序列的编码复杂度和信道带宽之间的关系。在一个视频序列编码的开始阶段判断信道带宽充裕度,并根据判断结果为码率控制中的参数集设置初始值。选择宏块级亮度直方图差异BH衡量各P帧的编码复杂度,并根据相对复杂度调整各帧的目标比特。和JVT-G012相比,针对视频序列与信道带宽的不同关系,该算法达到了不同的改进效果。当信道带宽充裕时,该算法提高了压缩后视频的客观质量与主观质量;当信道带宽不充裕时,该算法控制下的视频序列编码后产生的实际码率更接近目标码率,同时改善了编码器缓冲区占有度。其次,为降低场景切换对视频质量、信道传输及编码器缓冲区占用量的影响,论文对场景切换的检测和处理方法进行研究。分析了视频通信的特点,将满足高实时性、信道传输时延约束和编码器缓冲区尺寸约束定为设计目标。针对高实时性的需求,提出了一种基于BH的场景切换检测方法。为满足信道传输时延约束和编码器缓冲区尺寸限制,提出了一种结合前向跳帧及可变长GOP的场景切换处理方法。该算法避免了场景切换可能引发的编码器缓冲区溢出和传输延时,有效提升了新场景的视频质量。最后,针对视频通信中多序列之间的资源分配问题,论文提出了一种新的多序列联合码率控制算法。现有的多序列联合码率控制算法的控制对象是在同一编码端编码的多路电视信号,在视频通信中直接应用这些算法所付出的控制开销太高。为降低控制开销,提出了一种低复杂度的多序列联合码率控制算法。首先,该算法选择分配给各用户的信道带宽,而不是分配给各帧的目标比特,作为控制对象。其次,基于同一场景内视频序列编码复杂度变化缓慢的特点,根据已编码帧的平均视频质量调整分配给各用户的信道带宽。此外,为了应对场景切换及视频通信中的呼叫建立与呼叫终止,提出了在相应情况下的参数更新方案。和现存多序列联合码率控制算法相比,该算法同样能使不同视频序列的视频质量变得更均衡,同时该算法具有较低的计算复杂度,且能有效应对视频通信中的呼叫建立和呼叫终止,更适于应用在视频通信中。