互联网应用飞速发展的同时,软件架构及相关技术也在不断地演化发展。微服务架构以其优秀的设计理念在众多软件架构中脱颖而出,已逐渐成为当今主流软件架构。采用微服务架构可以搭建出高可用、高扩展以及低耦合的应用系统,能够有效提高应用系统的服务质量。但在微服务集群中由于各服务器负载能力差异等原因往往会导致在高并发环境下各服务节点负载分配不均,造成系统资源在时间片段与局部上存在过载或闲置的情景,甚至还会使某些服务节点因负载过高出现宕机危险,严重影响系统服务质量。本文针对微服务架构常用的多层轮询负载均衡策略进行优化和改进,并在微服务间的资源调用层采用异步非阻塞的负载均衡策略,设计了一种优化后的多层负载均衡架构策略技术,以此来缓解各服务节点的负载压力,提高系统的并发处理能力,改善其服务质量。本文的主要工作内容分为如下几个部分:首先,第一层访问入口使用Open Resty作为负载均衡组件,利用Lua脚本语言为Open Resty服务器提供一种新的负载均衡策略。该策略核心思想是将影响服务器负载能力的各种因素采用线性加权和的方式进行权重的计算,得到各服务器的负载均衡权重值,通过对各服务器权重值进行区域划分,随机产生一个小于总权重值的随机数,该随机数落在哪个划分的区域,就由哪台服务器提供服务,通过该负载均衡策略将请求更加均衡地分布到第二层路由网关集群上。其次,第二层负载均衡组件使用Spring Cloud新提供的异步非阻塞网关组件Gateway作为路由网关层,通过集成开源负载均衡组件Ribbon,完成动态的负载均衡服务,利用其优秀的负载均衡能力,完成向下游服务集群的请求转发。然后,对于第三层服务间的资源调用与有效利用,使用异步非阻塞的Web Client技术作为负载分配模式,对该层传统的轮询策略进行优化改进。该策略的核心思想是采用线性加权和的方式对影响各服务器负载能力的因素进行负载均衡权重值的计算,每个调度循环会遍历该集群中所有服务器,根据各服务器的权重比例决定调度次数,为充分发挥各服务器的性能,在每个调度循环中,以更加平滑的方式来为各节点分配请求任务,使整个微服务集群更加高效均衡地工作。最后,将本文研究的多层负载均衡优化方案应用到实际的工程系统中,并对其进行不同量级的并发访问实验测试,通过将整套优化后的多层负载均衡策略方案与传统的多层负载均衡轮询策略进行实验对比。实验测试结果表明:优化后的策略无论是在处理并发方面还是在请求响应时间方面都要优于传统的轮询策略。