随着计算机处理能力和网络通讯能力的飞速提升，计算机网络研究和应用的热点从核心网络延伸到了边缘网络，出现了应用层覆盖网络。应用层覆盖网络的路由表构造、维护及数据转发均由端系统完成。对等网络和应用层组播是两类典型的应用层覆盖网络。 作为一种全新的计算模式，对等网络具有自组织和可扩展等特性，因此引起了学术界和产业界的高度关注。基于分布式哈希表(DistributedHashTable，DHT)的结构化对等网络由于其理论可证明的性能下界，尤其受到学术界的追捧。 应用层组播能有效解决IP组播面临的部署、可扩展性及拥塞控制等难题，因此受到了广泛关注。已经有许多应用层组播协议被提了出来，少量的实验性应用层组播系统已经开始部署。应用层组播提供了一项有前途的组播服务选择。 对等网络需要首先构造一个覆盖网络拓扑，然后设计出该覆盖网络的路由算法。拓扑与路由是对等网络的核心，决定了对等网络的性能。作为应用层覆盖网络，对等网络面临着覆盖网络拓扑与底层网络拓扑不匹配的问题，导致了资源使用效率和网络链路质量低下。同时，对等网络往往以覆盖网络中的路由逻辑跳数作为路由选择的度量标准，导致了尽管路由逻辑跳数接近最优，但实际的端到端路由延时过高。对等网络中的内容搜索功能是非常有必要的。缺乏了有效的内容搜索，对等网络就不能发挥大规模资源共享的效益。但是，DHT只提供了简单的哈希表查找接口，无法支持有效的全文和语义搜索。 因此，本文首先从对等网络的拓扑构造和路由选择的角度，研究了利用底层网络拓扑信息改善对等网络性能。然后，研究了对等网络环境下的文档发布和搜索技术，着重解决了其中的倒排列表过长和查询热点问题。此外，本文还提出了在部分使用单向链路的对等网络中，引入双向链路，进一步改善对等网络性能。 应用层组播由于将数据复制、分发任务转移到了网络的边缘，因此造成了资源使用效率不高，数据传输延时过长等问题。应用层组播的数据复制、分发完全依赖于普通的端系统节点，而这些节点与IP组播中的路由器相比，可靠性和带宽、处理能力等都要相差很多，并且不同的端系统节点之间，这些性能也会有不同数量级的差别。应用层组播很容易受到端系统节点故障的影响。 因此，本文研究了在构造应用层组播树时，考虑端系统节点的稳定性及带宽的差异，并且在组播动态会话过程中，使用分布式操作优化组播树结构，以减少个别端系统节点发生故障对其它成员节点正常会话的影响。 本文的主要工作在如下四个方面：1基于PCA的邻近标识符选择算法。以对等网络系统CAN为基础，研究了使用邻近标识符选择的方法确定节点在对等网络逻辑空间中的位置，从而构造出高质量的P2P覆盖网络，有效改善了对等网络链路质量。算法将底层网络拓扑空间建模为高维欧几里德空间，再使用PCA的方法将高维的底层网络拓扑空间映射到低维的对等网络逻辑空间，实现了比传统的基于binning的方法更好的性能。 2.基于邻居路由表复制的邻近路由选择算法。以对等网络系统Chord为基础，研究了邻近路由算法，特别提出了通过复制邻居路由表，改善对等网络路由选择自由度，减少路由逻辑跳数，从而使得邻近路由选择能够明显降低端到端路由延时。使用了Lazy复制减少复制开销，并使用了并行路由确保路由成功。此外，提出了在使用单向链路的Chord中引入双向链路，几乎不需要额外开销就显著改善了Chord的路由性能。 3对等网络环境下的文档发布与搜索解决方案。该方案基于向量空间模型，能够支持全文和语义搜索。提出了划分文档关键词和一般词，并且使用了多哈希函数和多实体的方法，解决了对等网络环境下的文档发布和搜索的两个关键问题，即倒排列表过长和查询热点。 4稳定应用层组播树问题及解决方法。说明了该问题是NP-hard问题。研究了在构造组播树和动态调整组播树时，考虑端系统节点的稳定性及接入带宽的差异。通过使用遗传算法，构造出稳定度接近最优的组播树，并提出了组播树的分布式优化操作，在组播会话的动态过程中持续优化组播树的结构，保持组播树稳定性。