H.264/AVC基于率失真优化(RDO)代价值的计算，依次搜索标准给定的所有编码模式的率失真值，然后取其中值最小的模式作为最优编码模式。跳帧转码方法为解决不同网络环境的视频流兼容问题，简单复用RDO技术将降低转码效率。本文的研究围绕基于H.264协议的跳帧转码技术展开，着重研究视频转码中编码模式快速决策和安全策略问题。H.264原本的全搜索模式选择方法繁琐费时，明显会限制、降低跳帧转码效率，本文提出性能改进的跳帧转码快速模式选择策略在提升编码效率的同时也保证了视频质量，具体研究如下：(1)在分析跳帧转码中输入视频流所包含信息的情况下，结合两个运动阈值，改进模式选择策略使用一个能更近似获取当前宏块的真实运动距离核心函数，从而实现对当前宏块运动特征的更准确地刻画判定。快速模式选择策略合理的解决了跳帧转码条件下的模式信息的映射和利用，保证了在转码后能够获得更加可靠的视频质量，可广泛适用于复杂多变的网络环境下视频数据的实时交互。(2)视频协议给定多种帧类型，不同类型的帧规定了对应的参考预测方法以适应不同编码需求。为了避免帧间编码宏块参考引发误码扩散，H.264在帧内编码时利用上方、左方邻近且已编码的像素进行预测编码，本文在跳帧转码帧内预测模式决策中采用简单映射的策略重定帧内预测编码模式，进一步加快了转码效率。(3)针对视频序列运动多变问题，引入了一组自适应阈值用于帧间模式选择，根据宏块运动情况的不同灵活改变运动特征界定阈值以实现阈值的自适应性，从而可以对等待选择编码模式的宏块运动特征作出更加正确判断，获得更有保障的视频质量；结合转码中丢弃而无法恢复帧的模式信息提出一种简单易行的加密策略，避免了传统加密算法加密后引起视频本身容量增大的弊端。本课题创新研究内容使用H.264的参考模型JM平台进行试验仿真，实验中采用了快、中、慢运动特征各不相同的视频序列来验证本文提出的改进算法，在保证高效转码效率的条件下，获得了预期的可靠视频质量，同时本文提出的视频安全加密策略取得理想的保密效果和效率，拓宽了视频安全技术应用前景。