为了满足不断增长的无线数据需求,可以在传统宏基站无缝覆盖的基础上引入新的低功率节点,进行分层异构组网以实现高速数据传输。分层异构网络的宏基站和低功率节点复用相同频谱实现高速数据服务的同时,也会产生严重的共信道干扰,这已成为制约网络性能提升的瓶颈。为了优化分层异构无线网络,需要建立合适的干扰理论分析模型来研究干扰特性,分析不同场景和配置时的理论性能,然后进行相应的信号处理和资源管理,这是目前业界研究的热点和难点。本论文结合节点拓扑分布、发射功率、节点密度、天线数目、无线衰落、系统负载等特征以及多天线协同传输、.干扰协调以及用户接入等技术分析分层异构无线网络共信道干扰的影响,对相应的干扰协同处理、资源分配和组网技术进行了研究,论文的主要工作和创新包括：1.分层异构无线网络的干扰分布理论研究针对宏基站和低功率节点复用相同无线频谱的分层异构网络,鉴于宏基站一般由运营商规划设计,其位置是已知的,而低功率节点由于业务需求,其位置具有随机特性。论文建立了一种宏基站位置确定、低功率节点位置服从泊松点分布的两层异构场景的干扰分析模型,分析了干扰特征,推导了宏基站用户和低功率节点用户所接收的干扰功率的概率密度函数理论闭式表达式,并评估了发射功率、节点密度和路径损耗因子等参数对干扰的影响。仿真结果表明,所提两层异构干扰模型下的用户干扰分布具有重尾特性。2.分层异构无线网络差异化信道建模和理论性能研究由于铺设环境、天线高度等因素,异构网络不同层的无线传输链路具有差异化的小尺度衰落特性。针对终端直通复用蜂窝网络的分层异构场景,将终端直通用户传输链路的小尺度衰落建模为莱斯分布,而将其他链路小尺度衰落建模为瑞利分布,以表征异构无线传输链路的信道差异性。基于该差异化信道模型,提出了一种集中机会式频谱接入控制方案以降低终端直通用户对蜂窝用户的干扰,推导了终端直通和传统蜂窝网络的成功传输概率、平均容量以及网络容量等性能,并提出了基于成功传输概率最大的终端直通-蜂窝通信选择机制。论文揭示了莱斯信道中视距传输对分层异构无线网络性能的影响,给出了所提方案相比于传统随机频谱接入方案的性能增益。理论分析和仿真结果表明,视距传输增加可以有效提高终端直通用户传输可靠性,在给定终端直通通信频谱占用率的条件下,通过降低蜂窝网络的服务质量保障,提高终端直通服务链路的传输稳健性或采用所提的集中机会式频谱接入控制方案,都可以提升终端直通用户的传输性能。3.基于空域干扰协调的分层异构无线网络性能优化从无线信号处理角度来看,多天线空域干扰协调是一种抑制分层异构无线网络干扰的有效手段。本文分别针对分层异构无线网络的上行和下行传输研究了抑制跨层干扰的空域干扰协调方法,对空域干扰协调方法的信干噪比、平均容量等系统性能进行理论分析,并以最大化网络容量为目标提出了自适应空域干扰协调用户选择算法。论文评估了天线数目对空域干扰协调方法性能的影响,并研究了增强有用信号和抑制干扰之间的折中。仿真结果表明,所提的空域干扰协调算法基于少量的大尺度信道信息能有效提升异构网络传输可靠性和网络容量,并且基于所提的空域干扰协调算法,网络容量随基站天线数目增加而显著提升。4.基于用户接入的分层异构无线网络性能优化从资源管理角度来看,用户接入节点的选择会对其所受的干扰以及可用的无线资源造成影响,而合理的用户接入技术是减少分层异构无线网络干扰的有效手段,也是优化分层异构无线网络性能的关键技术之一。本文采用一种基于低功率节点接入偏移的用户接入技术,并提出了一种空域干扰协调方案以抑制高功率节点对低功率节点覆盖扩展区域用户的干扰。论文分析了基于低功率节点接入偏移的分层异构无线网络成功传输概率,评估了分层异构无线网络的发送天线数目、接入偏移因子以及空域干扰协调对负载、传输可靠性以及网络容量的影响。仿真结果表明,接入偏移技术在低功率节点部署密时集更有助于网络容量的提升；在非满载场景下所提的空域干扰协调方案不仅可以提高传输可靠性,而且可以提升异构网络容量。