H.264／AVC是近年来制定的一套兼顾广播和电信、覆盖低码率通信到高清晰电视多种应用的视频压缩标准，其压缩性能远高于MPEG-2和H.263等标准。然而，H.264／AVC编码的计算复杂度也远高于其它视频压缩标准，编码过程需要消耗大量的时间和系统资源，实时的H.264／AVC编码器实现面临着巨大的挑战。在编码端也需要寻找新方法，进一步提高编码器的压缩效率。其次，解码器需要合适的错误隐藏机制，尽可能隐藏视频数据在传输过程中发生的错误，以保证解码图像的视觉质量。论文以H.264／AVC为研究平台，对视频编码及解码的若干关键技术进行了深入研究，取得了一些创新性成果：(1)研究了模糊积分理论，结合数字视频编码的特点，提出了一种基于三角模模糊积分的能用于视频处理领域的图像失真模糊度量准则，验证了该度量准则在评价图像失真中的良好性能。(2)提出了基于模糊度量的H.264／AVC宏块预测模式选择方法。使用模糊度量作为视频编码算法中进行宏块预测模式选择的依据，提高了宏块编码模式选择的精确性。在相同的实验条件下，编码器的压缩能力在原有基础上提高了约6.52％，并带来了约0.1dB的PSNR增益。(3)在对宏块运动状态及场景信息进行分析的基础上，提出了一种H.264／AVC预测帧的快速模式决策算法。根据宏块的运动状态，跳过对编码效率贡献不大的帧内模式，根据场景信息，选择是否跳过帧间预测模式选择过程。实验结果显示，与采用完整的率失真优化决策过程相比，在保证编码效率的同时，所提方法能明显减少编码时间。(4)提出了一种基于模糊度量的时间错误隐藏方法。在恢复受传输错误影响的宏块运动矢量时，以模糊度量作为受损块和参考块的边界匹配准则，并以实验证实了该方法的有效性。(5)在基于模糊度量的时间错误隐藏技术的基础上，提出了结合4×4小块划分方式与8×8大块划分方式的错误隐藏方法。给出了依次进行几种方式下的运动矢量恢复过程，并以最小化模糊度量为准则，在这些方式中择取最优方式，进行受损宏块的错误隐藏。试验结果显示，该方法能提高受损图像的恢复质量。(6)提出了一种基于场景切换检测的错误隐藏机制。利用H.264／AVC的特性快速检测解码帧是否发生场景切换，根据场景切换检测结果，对预测帧和Ⅰ帧分别使用相应的时间空间自适应错误隐藏方法。实验结果表明，所提方法在重构图像质量上，比通常的方法有明显提高，能适应复杂的视频应用场合。