Spring cloud ribbon实现灰度发布

2020/11/11 07:35
阅读数 81

 

转载至:https://blog.csdn.net/u010882691/article/details/82427203

    1. 灰度发布

灰度发布是在多版本控制的基础上进一步扩展实现出来的项目 -> fm-cloud-graybunny,抽象出灰度服务、灰度服务实例、灰度策略、灰度决策等。      

灰度策略可以从request ip, request patameter, request header等方面进行去创建,也可以根据bamboo的LoadBalanceRequestTrigger结合graybuanny的接口去扩展灰度策略和灰度决策。

    1. 场景

有两个服务,共四个服务实例,分别是ServiceA-1, ServiceA-2, ServiceB-1。其中ServiceA-2是灰度实例。

  • 场景1
    所有请求头usertype:old,ip:10.217..的请求或者请求头usertype:test, url 参数action:create的请求,都会被转发到的灰度服务ServiceA-2 。
  • 场景2
    ServiceA-2通过一段时间的观察,判定运行稳定,开始ServiceA-2删除灰度标记,开始和ServiceA-1一样会加入正常的负载均衡规则当中。
  • 场景3
    服务ServiceB发布新版本,ServiceB-2需要灰度注册,注册成功后所有的请求不能转发到ServiceB-2, 在为ServiceB-2设置灰度策略后,符合策略的请求才会被转发到ServiceB-2上。
    1. 思路

从上面的场景分析,可以归纳出两个对象:服务实例和调用请求;服务实例的灰度管理是基础,调用请求时如何决策路由,都是根据服务实例的灰度策略去判断的。既然有灰度管理这个概念,那么从功能上分,就会有client-server之分,所以又可以从graybunny-client和graybunny-server去分析。接下来将一步一步去分析这四个方面。

      1. 灰度实例

  • 实例注册
    服务实例添加到灰度管理中。
  • 实例下线
    服务实例下线,从灰度管理中删除。
  • 灰度开关
    调整服务实例的灰度状态,有启用、禁用两个状态,禁用的实例不纳入灰度列表中。
  • 灰度策略
    请求是否可以被转发到该服务实例的条件,只有通过,请求才有可能会被转发到该实例上。
      1. 调用请求

  • 灰度决策
    根据请求的信息去匹配灰度服务实例的灰度策略,如果匹配上,会将服务实例加入到通过列表中。如果都没有匹配上,就按bamboo的路由规则去筛选非灰度的服务实例进行转发。
      1. 灰度客户端

调用请求的服务消费者,和提供服务的服务提供者都可以是灰度客户端,因为微服务中,大多服务实例既是服务提供者,同时也是服务消费者。

  • 灰度服务注册
    服务实例在启动时,就会向灰度服务端发起请求,将实例自身的灰度开关打开。
  • 灰度服务下线
    在服务实例下线前,会触发钩子,向灰度服务端发起请求将实例自身从灰度列表中删除。
  • 接收灰度实例调整消息
    接收由灰度服务端推送过来的灰度列表更新消息比如新增灰度实例,删除灰度实例等,维护缓存在实例上的灰度列表。
  • 定时拉取灰度列表
    定时从灰度服务端拉取最新的灰度列表,维护实例自身缓存的灰度列表。
      1. 灰度服务端

灰度服务端负表维护灰度列表,可以新增、删除、编辑灰度信息。

  • 编辑灰度实例
    新增灰度实例,删除灰度实例,修改实例灰度状态。
  • 编辑灰度策略
    新增实例灰度策略,删除实例灰度策略,修改灰度策略状态。
  • 推送灰度服务调整消息
    向灰度客户端推送灰度列表变动消息,比如新增灰度实例,删除灰度实例,修改实例灰度状态等。
  • 定时检查服务实例是否下线
    定时检查灰度服务实例是否下线,下线的的实例将从灰度列表中删除。

 

    1. 代码设计

根据上面的思路,设计以下对象和接口。共6个接口,4个模型对象。

对象:

对象

描述

GrayService

灰度服务

属性包括:灰度服务ID、灰度实例集合

GrayInstance

灰度实例,有状态属性

属性包括:灰度服务ID、灰度实例ID、策略组集合、灰度开关。

GrayPolicyGroup

灰度策略组,有状态属性

属性包括:灰度策略组ID、灰度策略集合、灰度策略是否可用。

GrayPolicy

灰度策略

属性包括:策略ID、策略类型、map集合

策略类型包括:REQUEST_IP,REQUEST_HEADER, REQUEST_PARAMETER, CONTEXT_PARAMS(合并匹配,既在map集合中使用多种策略类型)

接口:

接口名称

描述

GrayManager

灰度客户端管理器,维护灰度列表,维护自身灰度状态,创建灰度决策对象。抽象实现类AbstractGrayManager实现了基础的获取灰度列表, 创建灰度决策对象的能力。BaseGrayManger在期基础上进行了扩展,将灰度列表缓存起来,定时从灰度服务端更新灰度列表。

InformationClient

该接口主要是负责和灰度服务端进行通信,获取灰度列表,编辑灰度实例等能力。其实现类HttpInformationClient默认使用http方式访问灰度服务端。
子类InformationClientDecorator是一个适配器类,RetryableInformationClient继承了InformationClientDecorator类,实现了重试的功能。

GrayDecision

该接口是灰度决策,用来判断请求是否匹配灰度策略。实现了ip匹配、request parameter匹配、request header匹配、BambooRequestContext中的参数匹配器以及合并匹配等多个匹配能力。

GrayDecisionFactory

灰度决策的工厂类,其默认实现类支持上述几种灰度决策的创建。

GrayServiceManager

灰度服务管理类,属于服务端的类。主要是编辑服务实例,编辑灰度策略,以及维护最新的灰度列表。

GrayBunnyServerEvictor

接口类

EurekaGrayBunnyServerEvictor

该类是GrayBunnyServerEvictor的具体实现类,如果灰度服务实例下线后, 由于意外情况,没有向灰度服务端发送删除请求,服务端会每隔一段时间调用该接口的方法,检查灰度列表中的实例是否下线,如果实例已下线,就将其从灰度列表中删除。EurekaGrayBunnyServerEvictor是依赖EurekaClient来检查服务实例是否下线。

 

    1. 灰度负载规则和灰度决策

类名称

描述

GrayLoadBalanceRule

该类继承多版本控制中的BambooZoneAvoidanceRule类,

灰度路由 :

灰度路由是客户端必须要实现的能力,graybunny是在bamboo的基础上扩展的,所以graybunny的路由规则对象GrayLoadBalanceRule继承了BambooZoneAvoidanceRule,choose()逻辑是这样的:

1、 判断目标服务是否有灰度实例。

  1、 如果没有, 执行父类逻辑。结束。

  2、 有灰度实例,先将灰度实例和非灰度实例筛选出来。

2、 挑选灰度实例, 筛选调用请求匹配上灰度实例的策略。

  1、 如果没有匹配的灰度实例, 将非灰度实例列表传递过去执行父类的筛选逻辑。结束。

  2、 如果有匹配的灰度实例, 从其中按轮询的方式挑选出一个实例。结束。

 

 

 

 

 

 

 

展开阅读全文
打赏
0
1 收藏
分享
加载中
更多评论
打赏
0 评论
1 收藏
0
分享
返回顶部
顶部