在未来5G通信系统中,移动终端的数量和用户数据流量需求将继续呈现爆发性增长。Small cell作为一个新的网络架构,可以通过热点区域致密部署以提供更高的传输速率,因而被广泛地研究和分析。然而由于城市地形地势多样性,周围建筑物和遮挡物分布不规则性,使得复杂无线传输环境下,高密度部署的small cell网络覆盖区域和覆盖范围呈现出不规则性,这也为small cell的网络覆盖以及网络容量等性能分析带来了挑战。考虑到复杂无线传输环境对蜂窝网络覆盖边界的影响,本论文基于实测数据和分形理论,检验和验证了实际蜂窝覆盖边界存在分形特性,并评估了表征分形特性的Hurst指数,证实了实际蜂窝覆盖边界到基站距离在角度域上表现出不规则性和突发性;在统计特性上表现出自相似性和长程相关性。在此基础上,利用分形理论和随机几何理论,本文提出了覆盖边界存在分形特性的有缝small cell网络拓扑模型和各向异性路径损耗模型,推导了多小区多天线场景下的有缝分形small cell网络覆盖概率,多用户和容量以及单位面积频谱效率,并仿真评估了small cell覆盖边界分形特性和各向异性路径损耗对small cell网络多个性能指标的影响。本文提出了有缝分形small cell网络拓扑模型并评估了网络性能,为蜂窝覆盖边界建模开辟了新的研究思路,也为实际small cell基站的部署和性能分析提供了一定的指导意义。