随着无线通信技术的进步和业务需求的爆炸式增长,人们正在逐渐把多跳中继,异构网络等新技术引入到未来的无线网络中,这一方面形成了以无线Mesh网为代表的新一代无线网络,解决了传统无线网络一直存在的可伸缩性低和健壮性差等诸多问题,另一方面也对传统的无线资源分配技术提出了更高的要求。事实上,在这些新型的无线网络中,跨层联合优化是不可或缺的,也是未来无线网络协议设计的必然趋势。本学位论文在信息论、网络理论和凸优化理论的指导下,研究无线Mesh网络容量和跨层优化问题。首先,本文研究规则的多接口多信道无线Mesh网络容量问题,目的是在给定网络拓扑结构和流量需求的情况下,联合考虑物理层的功率控制、媒体接入控制层(MAC)的信道分配和调度策略,通过跨层联合优化求出公平性约束下的网络最大容量。采用图论的方法,将跨层优化问题分解为有限个子优化问题,而每个子问题可以表示成一个线性规划问题,通过分别求解这些子问题从而得到目标问题的解,并从理论上证明该解的全局最优性。由于该算法需要遍历所有可行的场景,具有极高的计算复杂度,因此提出一种次优算法,指出只需要求解瓶颈区域的局部优化问题,就能得到网络容量的次优解,从而以较小的性能下降为代价,大大降低了最优化问题的算法复杂度。其次,本文研究无线Mesh网络中视频流传输的跨层优化问题,目的是在给定网络拓扑、视频流的分布及网络路由的情况下,通过传输层和应用层的联合优化,使得网络中的视频传输质量最佳。将视频流的QoS要求建模为三维变量速率、时延、丢包率对,同时考虑这三个参数构成的QoS限制;对不同的传输层差错控制策略(FEC、ARQ等),基于排队论和概率论提出建模时延抖动的方法,分析与研究端到端之间的数据速率、时延抖动和数据到达率;在应用层使用经典的失真度量模型(squared error rate-distortion model),考虑源编码速率产生的失真和网络传输产生的失真,进行联合优化。然后提出一种联合控制源编码速率、丢包率、FEC、ARQ的集中式算法,在满足视频流QoS的约束下,最优化视频的总失真度。接着,指出该优化问题可以被分解为有限个子优化问题,每个子问题在满足流量限制的条件下是凸规划问题,可以使用经典的内点法求解,从而得到目标问题的最优解。最后基于上述优化问题的流量限制条件,提出视频服务的准入控制判断准则。由于无线Mesh网络无中心控制节点,集中式算法不适用于无线Mesh网络,因此本文最后研究无线Mesh网络中视频流传输的分布式协议设计,提出一种分布式的跨层联合优化算法。基于凸优化理论中的拉格朗日对偶法,将目标问题分解为源编码速率优化子问题、时延分解优化子问题、丢包率优化子问题。对于前两个优化子问题,提出分布式算法求解局部最优解,然后通过使用牛顿梯度法,多次迭代计算第三个优化子问题,逼近集中式算法的最优解。利用上述算法,提出一种分布式的协议设计,给出该算法在网络中实际可行的实现步骤。