查看原文
其他

SpringCloud Alibaba微服务实战三十二 - 实现网关的灰度发布

飘渺Jam JAVA日知录 2022-09-11


大家好,我是飘渺Jam,一名来自三流城市三流公司的三流程序员,这是我们的第159篇原创文章,如果你喜欢请记得给我一个点赞与转发。 

前言

这篇文章来源于粉丝提出的一个问题:如何解决多环境统一注册中心服务实例乱窜?

怎么理解呢?

假设现在开发环境的AccountService已经在Nacos中注册了,现在小张需要对它进行修改升级,本地启动AccountService后也注册到了Nacos,但是在调试的时候请求通过网关经常直接跳转到开发环境,这样的话小张就没办法安心debug了。


其实这个问题归根结底是如何基于SpringCloud Gateway实现灰度发布,通过指定的规则让请求流量到达特定的实例。

在SpringCloud 2020 版本中官方推荐使用Spring Cloud LoadBalancer 来替换原Ribbon的负载均衡器。所以本篇文章我们直接基于Spring Cloud LoadBalancer来实现。

tips:何为灰度发布

灰度发布(又名金丝雀发布)是指在黑与白之间,能够平滑过渡的一种发布方式。在其上可以进行A/B testing,即让一部分用户继续用产品特性A,一部分用户开始用产品特性B,如果用户对B没有什么反对意见,那么逐步扩大范围,把所有用户都迁移到B上面来。灰度发布可以保证整体系统的稳定,在初始灰度的时候就可以发现、调整问题,以保证其影响度。

实现目标

目标很明确,小张希望在调试的时候发出的请求能直接到达自己的本地开发环境,方便调试。

实现思路

要实现此目标我们需要解决两个关键的问题:

  1. 如何区分不同的实例

    需要给小张本地启动的AccountService服务实例一个特殊标识,让它与开发环境的区分开。

    这里我们可以使用注册中心的元数据metadata来区分,可以通过spring.cloud.nacos.discovery.metadata.version = dev配置指定,也可以在nacos服务列表中直接添加元数据信息。


  2. 实现自定义的负载均衡规则,通过自定义规则让负载均衡器能找到我们需要的服务实例

    小张在请求服务的时候需要在请求头上添加标签,version=dev,自定义负载均衡器在获取到请求头信息后去服务实例中查找配置了mtadata.version=dev的服务实例。

Spring Cloud LoadBalancer(SCL)

SCL 负载均衡策略

在Spring Cloud LoadBalancer 官方文档上有这样一段说明:

Spring Cloud provides its own client-side load-balancer abstraction and implementation. For the load-balancing mechanism, ReactiveLoadBalancer interface has been added and a Round-Robin-based and Random implementations have been provided for it. In order to get instances to select from reactive ServiceInstanceListSupplier is used. Currently we support a service-discovery-based implementation of ServiceInstanceListSupplier that retrieves available instances from Service Discovery using a Discovery Client available in the classpath.

结合文档中的其他内容,提取出几条关键信息:

  1. Spring Cloud LoadBalancer提供了两种负载均衡算法:Round-Robin-basedRandom,默认使用Round-Robin-based


  2. 可以通过实现ServiceInstanceListSupplier来筛选符合要求的服务实例

  3. 需要通过 LoadBalancerClient 注解,指定服务级别的负载均衡策略以及实例选择策略

提示:如果大家需要探究SCL的实现原理,可以通过GatewayReactiveLoadBalancerClientAutoConfiguration入手。

自定义灰度发布

结合上文,利用Spring Cloud LoadBalancer实现灰度我们有两种实现方式:

  1. 简单粗暴,直接实现一个新的负载均衡策略,然后通过LoadBalancerClient注解指定服务实例使用此策略。
  2. 自定义服务实例筛选逻辑,在返回给前端实例时筛选出符合要求的服务实例,当然也需要通过LoadBalancerClient注解指定服务实例使用此选择器。

代码实现

版本说明

SpringCloud 项目使用的版本是SpringCloud alibaba推荐的毕业版本

<spring-boot.version>2.4.2</spring-boot.version>
<alibaba-cloud.version>2021.1</alibaba-cloud.version>
<springcloud.version>2020.0.0</springcloud.version>

自定义负载均衡策略

首先我们来看第一种实现方式,通过自定义负载均衡策略来实现。

  1. 在网关模块引入 SCL ,同时需要剔除nacos注册中心自带的Ribbon负载均衡器。

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存