近年来,随着因特网的日益普及、移动通信和多媒体业务的迅猛发展,视频应用领域不断扩大,开发高效、轻巧的嵌入式视频压缩系统具有重要的理论意义与实用价值。H.264是新一代视频压缩编码国际标准,与以往的标准相比,H.264的编码效率有了显著的提高,但是其运算复杂度也大大增加了。另一方面,随着数字信号处理器(DSP)的快速发展,为实现便携式的数字视频通讯终端提供了可能。TI公司生产的TMS320DM642芯片具有强大的并行处理能力和信号处理功能,是实现H.264编码器的理想平台。本文主要研究H.264编码器在DM642上的实现与优化。本文在对H.264中采用的关键技术进行分析的基础上,对标准中最为耗时的预测算法进行了详细的讨论。在帧内预测算法中,利用最可能模式出现的高概率以及最优模式和次优模式之间的相邻性,对Intra4×4模式进行快速选择,同时利用宏块自身的纹理特点来选择跳过Intra16×16模式,从而降低了标准算法中的全搜索算法的复杂性;本文基于自适应六边形-菱形搜索模板和早停止策略提出了一种改进的运动估计算法,以减少搜索点数,提高编码速度;在帧间预测模式选择算法中,根据图像信息之间的相关性,利用已搜索模式的结果与自适应阈值比较,并结合块合并准则,剔除部分帧间模式,以实现模式的快速选择。DSP方面,首先根据DM642芯片结构与H.264编码器自身特点,调整了数据流向和变量定义,合理分配存储空间,使得重新设计后的编码器框架适应嵌入式系统的实现。同时引入QDMA数据传输机制,消除了片内外数据传输的瓶颈。其次,采用编译器选项优化、数据打包技术、内联汇编嵌入、循环流水、线性汇编等方法以及结合DM642的两级Cache结构特点对H.264编码器代码进行优化。经过算法与DSP平台两方面的优化后,编码器在编码效果没有大的损失的情况下,编码速度得到极大的提高。