近年来,随着移动通信系统的高速发展及其应用的广泛普及,移动通信业务量出现了爆炸性的增长,用户对无线通信速率与质量的要求越来越高。众多无线新技术应运而生,推动着移动通信技术的快速发展,Femtocell技术作为其中之一,受到了广泛的关注和认可。Femtocell技术具有发射功率低、覆盖范围小等特点,因而能够大幅提高频谱的空间利用效率,增大蜂窝系统的整体容量。而Femtocell网络中的频谱管理技术,则是发挥Femtocell上述优势的重要保障。本文针对Femtocell密集部署时可能出现的对频谱资源无序竞争导致频谱利用效率低下,以及由宏小区和Femtocell组成的异构蜂窝网中新出现的频谱资源管理问题,采用博弈论和最优化等工具,综合利用包括经济学手段和经典的无线资源调度管理等方法,对自组织密集Femtocell网络中的频率复用,异构蜂窝网络的频谱分配,用户的接入选择以及干扰协调等技术进行了深入研究,取得了如下的创新成果:第一,针对自组织密集Femtocell网络中,由于基站部署具有随机性,导致传统网络规划方法难以实施、频谱利用效率低下的问题,提出了一种基于博弈的分布式频谱复用算法。在各个Femtocell根据频谱感知信息选择临时子频带后,通过对分簇后的自组织密集Femtocell网络执行簇内协调和簇间博弈两步算法,快速高效地消除相邻Femtocell之间的频谱冲突,使得整个网络合理地复用频谱资源。该方法可以有效解决自组织密集Femtocell网络中的频谱冲突问题,使得自组织Femtocell网络能达到接近有理想网络规划时的系统容量。第二,针对蜂窝网络引入Femtocell后出现的频谱共享问题,提出了一种基于斯坦伯格博弈的最优频谱分配与定价策略,该策略能够激励用户参与Femtocell部署,并开放Femtocell服务。在异构蜂窝网络中,最优的频谱分配策略是广泛部署Femtocell的前提,合理的频谱定价是Femtocell服务推广的重要保障。本文通过建模基站与用户之间的博弈,分析了频谱资源定价与用户需求的关系,通过建模宏基站与Femtocell之间的博弈,给出了最优频谱分配与定价策略,从而可按需地为宏基站与Femtocell分配频谱资源,最大化宏基站与Femtocell的频谱效益。第三,考虑到在动态的异构蜂窝网络中,基站与用户的策略选择具有动态变化的特性,提出了一种基于演化博弈与动态规划的动态频谱最优分配方法。通过采用两层网络架构建模异构蜂窝网络,对用户的服务选择行为和基站间的频谱分配进行了联合分析。通过演化博弈建模用户的服务选择行为,分析了用户跟随基站的资源分配策略而动态地选择接入网络的过程。通过将频谱分配建模为动态规划问题,实现了频谱资源动态地、最优地定量分配。理论分析与仿真结果均表明,通过该方法,动态异构蜂窝网络能够达到一个稳定的均衡点。第四,提出了一套基于博弈的用户接入与干扰协调的方法,并证明了该方法能够在异构蜂窝网络中获得斯坦伯格博弈均衡。该方法考虑到传统的接入规则没有适应用户的需求与基站的负载,从而难以达到负载均衡的不足,以及异构蜂窝网络中存在的比较严重的跨层同频干扰,特别是处于Femtocell边缘的宏基站用户。针对上述问题,本文采用斯坦伯格博弈建模该网络:将宏基站建模为领导者,领导者通过释放部分子信道,激励Femtocell接纳部分其边缘的宏基站用户;将众多Femtocell建模为跟随者,跟随者在受到激励后,通过调整其覆盖范围,接纳部分宏基站用户,使宏基站释放更多子信道,减少跨层同频干扰。同时将功率分配问题也进行了联合优化,有效地提高了宏基站用户和Femtocell用户的信道容量,改善了异构蜂窝网络的负载均衡。