H.264标准是由运动图像专家组MPEG和ITU下属的视频编码专家组VCEG联合制定的新一代低比特率视频压缩编码标准。因为其良好的压缩效率,对网络传输的支持性,使其成为网络传输中主流的视频压缩技术。未来的趋势是视频数据将主要在无线网络中传输,随着3G网络的逐步发展和成熟,业界把目光更多的转向了以802.16WIMAX为代表的4G网络。正因为如此,在802.16网络中传送H.264视频数据将是未来应用十分广泛的一个情况,那么研究在这个场景中如何保障业务的QoS有实际的意义和重要性。同时,在H.264协议和802.16协议中都各自有一些抗错机制和QoS保障机制,将两种协议各自的机制结合在一起来统一的调度和分配资源也是十分必要的。本文通过对H.264帧内预测算法的优化和场景变换帧的检测,使得IDR帧的编码耗时减少了41%-46%,同时将传递Ⅰ帧的机制变成了按需传送,而不是以固定间隔发送。同时本文将H.264中抗错机制和802.16协议的MAC层、数据链路层进行了有效的配合,提出了一种跨层的QoS设计。在这个架构里我们提出了基于优先级的带宽分配算法和自适应链路调制算法。仿真结果表明,本论文提出的机制能有效的减少H.264 IDR机制所需要的编码时间,同时能有效的保证H.264中重要数据包在802.16无线系统传输时的QoS。