在技术进步、市场竞争和需求扩张的共同作用下,无线通信网络在服务质量、网络容量、传输速率等方面都发展迅速。在传统移动通信系统更新换代的同时,新型无线接入技术不断涌现,无线通信网络正在朝着接入方式多样化、数据传输高速化、普遍移动性和全IP融合的方向发展,最终将形成无所不包、无所不在、无所不能的下一代无线网络。下一代无线网络融合了各种体制的移动网络和互联网,支持移动终端在各种异质网络之间的无缝切换和漫游,支持多跳自组织、协同中继等分布式接入方式,能够提供丰富的基于的IP的各种业务。然而,由于无线资源稀缺宝贵、无线信道动态时变、无线媒介竞争共享,为实现高效、可靠、安全的下一代无线网络,还有很多亟待解决的问题,比如：,如何协调各无线网络的资源管理,如何保持用户最佳的网络连接,如何实现业务的无缝平滑切换,如何选择最优的中继节点,如何选择高效的路由等。本论文研究跨层设计机制在下一代无线网络中的应用,通过网络协议栈各层协议之间的互相协调配合,提高无线网络的整体性能和效率。论文围绕无线网络的跨层设计机制,研究了异构融合网络跨层无线资源管理机制,协同中继网络跨层最优中继节点选择算法,多跳自组织网络跨层路由设计,主要工作如下。对无线网络的发展与演进进行了总结,对下一代无线网络的特点、面临的问题及研究现状进行了深入的分析、整理和归纳,对TCP/IP协议栈各层在下一代无线网络中的跨层设计思想和方法作了总结,分析了跨层设计的原则和网络性能的改进方法。提出了异构融合网络协同无线资源管理方案,从整体考虑异构多接入网络无线资源的角度出发,对异构网络中具有不同特性的接入网络进行联合的接入控制和资源调度,在满足业务需求的基础上实现异构网络资源利用率的最大化。基于策略的资源分配算法使得运营商和网络供应商能够灵活分配和动态调整无线传输部分和网络的可用资源,将商业策略与整体网络的运作关联起来。采用层次分析法的网络选择机制,综合考虑用户偏好、业务特性和网络状况,在任何环境下为用户提供最佳连接。协同传输与分组调度机制,根据物理层提供的各无线接口的传输性能参数以及应用层提供的业务QoS需求参数,对来自不同业务的分组进行统一调度,提高传输性能。基于二层触发机制的自适应垂直切换方案,通过物理层参数的提取优化垂直切换流程,并根据链路层提供的切换前后的带宽信息,改变TCP的状态变量,优化TCP性能,有效地利用垂直切换后突变的网络资源。提出了一种能量高效的最优中继节点选择算法,把移动时变网络中最优中继选择问题建模为随机控制理论中的Restless Multi-armed Bandit求最优解的问题。采用一阶有限状态马尔可夫信道(FSMC)模型来描述无线移动环境下物理信道的随机时变特性；把中继节点剩余能量状态划分为不同级别,建立马尔可夫链模型；所有节点采用自适应调制编码(AMC)机制,以提高在衰落信道下的频谱效率；为达到能量高效的目的,选择中继节点时同时考虑转发数据包需要消耗的能量和各中继节点能量均衡消耗；系统根据各中继节点当前时刻所处的无线信道状态和能量状态以及状态转移概率,为下一个数据帧选择一个统计最优中继。通过仿真分析,证明了该算法能够降低误码率、提高频谱效率、延长网络生存时间。分析了协同中继网络中端到端的TCP吞吐量,采用跨层设计方法进行中继节点选择和链路层参数调整达到优化TCP性能的目的。把移动时变网络中跨层TCP性能优化问题建模为随机控制理论中的Restless Multi-armed Bandit求最优解的问题。通过线性规划放宽(Linear Programming Relaxation)和原始双重索引启发(Primal-Dual Index Heuristic)计算得到的中继选择策略具有索引特性(Indexability Property),最优策略就是每个时隙选择优先权索引值(Priority-Index)最小的中继节点,优先权索引值能在离线(off-line)状态计算并存储在索引表(index table)中,因而能显著的降低在线(on-line)运算量和实施复杂度；网络不需要中心控制节点,该方法以分布式方式运行,每个中继节点都可以随时加入或者离开候选集合。通过仿真分析了在不同物理层参数和链路层参数下的性能,仿真结果表明提出的方案能够显著的提高TCP吞吐量。提出了一种基于功率控制的高速率路由选择方案,采用了跨层设计思想,节点建立路由时以物理层数据传输速率作为度量值。提出的选择速率方法是通过调整发射功率实现的,先以最小功率发现路由,如果失败则增大一级发射功率,直到与发送数据时的发射功率相等。仿真结果表明,该方案能够获得较高的系统吞吐量、较小的传输时延,并且能够有效降低网络的能量消耗。还提出了一种基于MAC层传输时间(MTT)的高速率路径选择方案,节点建立路由时以路径权值作为判据,选择MTT最小的路径,从而最大化系统吞吐量。通过改变传统路由协议中的跳数判据,该方案能够很容易地应用到现有的网络中。仿真结果表明,该算法能够选择速率高、传输时间短、鲁棒性强的路径。