在下一代移动通信系统中,无线链路的不稳定性给高速数据业务的应用带来了挑战：随着用户需求的增加、无线终端设备性能的提升,视频类业务越来越多的应用到人们的日常生活中,视频类业务由于自身固有的特点,对网络带宽和延时都提出了严格的要求：无线网络宽带化趋势越来越明显,带来了移动业务类型的多样化,然而不同业务的QoS要求不一样,给各个协议层的实现提出了新要求。为了应对上述挑战,采用跨层资源分配技术,通过打破各个协议层的独立性,可以抑制无线信道的不稳定性带来的消极影响。跨层设计可以获得多协议层的分集增益,进而提升资源分配策略的性能。然而,跨层结构设计在给网络带来巨大整体收益的同时,无线网络跨层设计,特别是移动视频业务的跨层设计,会给优化器带来巨大的计算复杂度,要实现网络性能的动态自优化,需要在跨层资源分配策略上有所创新。本论文从动态调整各层参数实现网络性能自优化出发,设计并实现了高效的跨层资源分配算法,提出了基于模糊决策的视频跨层多目标优化方法,建立了视频业务QoS驱动的质量评价预测模型,研究了小区间协同的架构和接口,并利用多个相邻小区间协调有效抑制了小区间干扰。本论文的主要工作包括以下四个方面：提出了跨层势博弈理论模型。首先讨论了常用的跨层势博弈构建势函数的方法,分析了博弈迭代过程的收敛性、纳什均衡的存在性和唯一性,并证明了势博弈的有限递增属性,以及势博弈均衡状态的稳定性,最后分析了均衡状态的最优性,给出了衡量博弈最优性的指标。跨层势博弈理论一方面给跨层设计带来分布式的结构模型,在网络规模扩大时仍能够保持低复杂度；另一方面利用相应的收敛准则,能够快速的收敛到最优解,动态的调整多个网络层的参数,满足了下一代移动通信网络设计自优化的要求。建模并实现了跨层资源分配仿真平台。按照模块化的设计思想,将整个仿真平台分为业务级仿真模块、系统级仿真模块、链路级仿真模块和跨层优化器四个独立模块：并且平台的各个模块之间按照异步的方式进行工作,满足视频流对实时性的要求；平台采用可视化的工作界面,实时回放原始的视频流和用户终端接收到的视频流。利用该仿真平台,可以对研究中的新技术和新算法进行方便、快速、直观的验证和评估,节省了新技术开发的成本和周期。另外,平台真正从用户体验的角度出发,评估算法的性能。提出了新的视频业务跨层自优化资源分配策略。采用模糊多目标决策理论对视频业务的跨层优化问题进行建模,充分考虑了多个目标函数之间的相互作用；接下来在充分分析视频业务内容相关性和视频流特征的基础上,提出了视频流业务的QoS预测模型,能够根据视频业务在传输过程中的误块率对业务质量的影响进行准确的预测；最后为了降低跨层问题求解的复杂度,利用势博弈框架对跨层资源分配进行建模,实现了分布式问题求解,同时利用梯度投影准则作为博弈迭代过程中博弈主体的偏好准则,实现了博弈过程的并行收敛。视频业务跨层自优化资源分配策略本质是一种信道自适应技术,将SON技术和跨层资源分配相结合,根据无线信道的变化,动态自适应的调整跨层资源。采用跨层势博弈理论避免了视频跨层设计可能带来的巨大复杂度,实现了低复杂度、快速收敛的跨层资源分配算法,保证了收敛时间随着博弈主体数量的增加而呈线性递增,并且真正从用户体验角度出发分配无线资源。提出了主动式的跨层小区间干扰协调策略。通过仂调多个相邻小区,动态的改变子信道上的发射功率,改善信道传输环境,实现了改善整个小区吞吐量和降低网络能耗的目的,证明主动式的资源分配方式的有效性；在此前提下,提出了主动式的跨层资源分配策略,协调多个相邻小区同频子信道上的发射功率和用户调度,保证公平性的同时,为系统带来了多层分集增益。利用跨层势博弈理论对跨层资源分配问题建模,每次博弈迭代过程中采用粒丫群优化算法为博弈参与者选择最优回报策略,实现了跨层优化问题的分布式求解。主动式的跨层资源分配策略,通过调整物理层、MAC层参数,主动改善信道质量,达到了抑制OFDMA网络中固有的小区间干扰、降低网络总体功耗和提高小区中用户吞吐量的目的,同时通过分布式的算法结构,抵消了跨层设计带来的计算复杂度,保证了干扰协调过程的快速收敛。