随着移动通信技术的快速发展,用户对于网络质量和数据速率的要求越来越高。家庭基站的出现有效解决了宏基站在室内覆盖不足的问题,提高了数据传输速率和用户体验感知,因此,家庭基站系统的资源分配研究是目前通信领域的研究热点。本文主要对基于图论的家庭基站网络中的资源分配算法进行了研究。在家庭基站的两层网络中,以家庭基站之间的同层干扰为研究对象,重点采用图论中的极大团和簇建立家庭基站干扰模型,并提出了三种资源分配算法。本文的主要研究内容如下:(1)针对宏基站与家庭基站共享频谱资源的下行链路场景,在保证用户公平性的前提下,提出了一种基于图论极大团的两层网络的信道分配方法。该算法首先给宏基站用户分配频谱资源并保证宏基站用户满足一定的服务质量的要求;然后,在家庭基站用户满足一定服务质量的前提下,基于图论的极大团建立了家庭基站之间的干扰模型,通过加边和最大势搜索算法(MCS)计算出团的权重和团度;最后,结合图论着色的方法来最大化信道的利用率。仿真结果表明,提出的基于极大团的算法可以有效的提高系统容量,并保证了用户的公平性。(2)在OFDMA的宏基站-家庭基站网络的下行链路中,以提高系统容量为目标,提出了一种干扰受限的基于簇的家庭基站信道分配算法,该算法由三部分组成,分别是极大团的枚举、簇的形成和信道分配算法。通过极大团的枚举得到所有的簇,以簇为单位进行信道分配,受干扰较小的家庭基站在信道分配时具有优先权,且会被分配较多的资源,以提高系统吞吐量。仿真结果表明,提出的基于簇的分配算法可以有效提升系统的平均吞吐量。(3)在密集家庭基站网络的环境下对两层异构网络的资源分配算法进行了研究,针对加权的干扰图,提出了一种动态的基于簇的子载波分配算法。该算法基于用户测量报告机制构建加权干扰图,通过最大K割的簇算法求得使同层干扰最小化的不相交的簇,采用SINR最大化的启发式算法给每个簇分配子载波,针对家庭基站网络的时变特性,提出了基于熵的混合集中/分布式干扰感知的子载波分配算法。仿真结果表明,提出的算法可以有效提升系统的平均容量。