文档章节

微服务架构—优雅停机方案

李景枫
 李景枫
发布于 04/02 23:15
字数 1063
阅读 4083
收藏 99
点赞 7
评论 6

1 介绍

        微服务架构中的应用优雅停机主要是指应用实例有计划而平滑(即不产生需要处理的事故)的退出。应用服务器的停机主要分为两类:主动停机和被动停机,而其中主动停机和大部分的被动停机都是可以实现优雅停机。如果应用不做优雅停机,则会带来以下情况:

  • 数据丢失:内存的中数据尚未持久化至磁盘

  • 文件损坏:正在操作写的文件因没有更新完成,导致文件损坏

  • 请求丢失:排队中等待处理的请求丢失

  • 响应丢失:成功的交易还没来得及做出响应

  • 交易中断:正在处理至中间状态的交易被强制中断

  • 服务未下线:上游服务依然还会继续往下游服务发送消费请求

        而我们微服务的优雅升级的目标就是避免以上几种情况,从而避免人工干预的工作量和提升微服务架构的服务高可靠。

2 使用场景

优雅停机可以解决以下场景:

  • KILL PID

  • 应用意外自动退出(System.exit(n))

  • 使用脚本命令的方式停止应用

优雅停机解决不了以下场景:

  • 突然断电

  • 机器物理破坏

  • KILL-9 PID 或 taskkill /f /pid

3 ShutdownHook

        Java的优雅停机通常通过注册JDK的ShutdownHook(钩子)来实现,当系统接收到退出指令后,首先标记系统处于退出状态,不再接收新的消息,然后将积压的消息处理完,最后调用资源回收接口将资源销毁,最后各线程退出执行。简单的使用demo案例如下(简单版):

/**
 * 优雅停机处理方式
 * 
 * @author lry
 **/
public class Main{

    /**
     * 启动应用
     **/
    public void start(){
        // 第一步:启动应用服务……

        // 第二步:注册JDK钩子
        Runtime.getRuntime().addShutdownHook(new Thread(new Runnable() {
            @Override
            public void run() {
                System.out.println("The hook running...");
                //第三步:调用停机处理
                stop();
            }
        }));
    }

    /**
     * 停止应用
     **/
    public void stop(){
        // 停止应用前停机处理(如:注销服务、标记不接受请求等)
    }

}

超时控制
        通常优雅退出需要有超时控制机制,如果到达超时时间仍然没有完成退出前的资源回收等操作,则由停机脚本直接调用KILL -9 PID的方式进行强制退出,不然可能会等待很长时间。

4 微服务优雅停机

        微服务的优雅停机没有统一的解决方案,只要抓住核心思想进行设计即可:
        引流 → 挡板 → 等待停机

        但在微服务架构中,我们可以遵守以下建议规则来设计微服务的优雅停机机制:

  • 所有微服务应用都应该支持优雅停机

  • 优先注销注册中心注册的服务实例

  • 待停机的服务应用的接入点标记拒绝服务

  • 上游服务支持故障转移因优雅停机而拒绝的服务

  • 根据具体业务也提供适当的停机接口

    微服务应用的优雅停机根据其使用者角色的不同,而主要分为两种类型:

  • 微服务业务应用优雅停机设计:

    微服务业务应用优雅停机设计

  • 微服务网关应用优雅停机设计:

    微服务网关应用优雅停机设计

    其余各层设备的优雅停机都可从以上两种类型进行衍生出解决方案,如:

  • 整个后端架构升级,则可从DNS或Nginx直接切换

  • Nginx层升级,则可以从DNS直接切换

5 使用案例

        在业界开源的产品中,很多产品都使用了JDK钩子的方式来实现优雅停机,如以下产品:

  • Netty

  • DUBBO

欢迎关注个人技术公众号查看原文:

ID:i-micro-tech

QQ微服务基础架构交流群(191958521):

感谢红薯的支持!

© 著作权归作者所有

共有 人打赏支持
李景枫

李景枫

粉丝 81
博文 58
码字总数 43962
作品 3
深圳
架构师
加载中

评论(6)

Wizzer
Wizzer

引用来自“OSCharles”的评论

如果微服务有简单的实现就好了,谢谢
有啊,https://gitee.com/wizzer/NutzWk ~~
节节草
节节草
下达停服指令、各服务保存停服指令、服务熔断、处理完用户队列中的所有用户请求、执行停服指令,基本都能做到平滑停机的要求。
calvinwilliams
calvinwilliams
杭州银行联机交易平台 支持 不停机应用热更 和 不停机平台热更
OSCharles
OSCharles

引用来自“OSCharles”的评论

如果微服务有简单的实现就好了,谢谢

引用来自“沧海_Sea”的评论

spring boot 使用 Tomcat 的时候就可以实现此效果
谢谢。
沧海_Sea
沧海_Sea

引用来自“OSCharles”的评论

如果微服务有简单的实现就好了,谢谢
spring boot 使用 Tomcat 的时候就可以实现此效果
OSCharles
OSCharles
如果微服务有简单的实现就好了,谢谢
Dubbo 低调重启维护,焕发新春的它要走向何处

几个月前,开源社区发生了一件大事,那个曾经风靡国内 Java 开发者的开源 RPC 服务框架 —— Dubbo,低调宣布将重新得到官方维护与支持。 对于 Dubbo 框架,大部分 Java 开发者都不会感到陌生...

oschina
2017/12/13
6.1K
51
微服务神经元 Neural 4.0.0-RELEASE 发布

分布式服务框架中的神经组织,主要为分布式架构提供放通率控制、流量控制、服务降级、幂等机制、泛化容错、SLA熔断、隔离舱壁、超时控制和慢性尝试功能。专业解决微服务场景下的指挥协调组织...

李景枫
2016/08/16
2.3K
6
微服务实战:从架构到部署

原创 2016-07-18 姚洪 译 Docker Docker 在这篇文章里, 计划涵盖微服务架构(MSA)的核心架构概念,以及如何在实践中使用这些架构理论。 如今,微服务“Microservices”已经成为软件架构领域...

gsying1474
2016/08/04
0
0
在Ignite上运行微服务:第一部分

在Ignite上运行微服务:第一部分 从本文开始,会通过一个系列的篇幅来介绍使用Apache Ignite内存数据组织平台来构建容错、可扩展的基于微服务的解决方案。 介绍 当前,很多公司都会将自己的应...

李玉珏
2016/12/15
825
2
Spring boot 2.0 之优雅停机

spring boot 框架在生产环境使用的有一段时间了,它“约定大于配置”的特性,体现了优雅流畅的开发过程,它的部署启动方式()也很优雅。但是我使用的停止应用的方式是 ,即使写了脚本,还是...

rabbitGYK
05/20
0
0
分布式系统的那些事儿(七) - 微服务架构体系

微服务的出现,标志了又一个新的里程碑,似乎你不知道微服务就代表你好像out了一样。微服务是业务服务化,将SOA更好的延续了下去。配合restful也能够更好的提供api接口。 简单来说就是微服务...

风间影月
2017/10/17
0
0
阿里Dubbo疯狂更新,关Spring Cloud什么事?

最近,开源社区发生了一件大事,那个全国 Java 开发者使用最广的开源服务框架 Dubbo 低调重启维护,并且 3 个月连续发布了 4 个维护版本。 我上次在写放弃Dubbo,选择最流行的Spring Cloud微...

纯洁的微笑
2017/11/20
0
0
阿里Dubbo疯狂更新,关Spring Cloud什么事?

最近,开源社区发生了一件大事,那个全国 Java 开发者使用最广的开源服务框架 Dubbo 低调重启维护,并且 3 个月连续发布了 4 个维护版本。 我上次在写放弃Dubbo,选择最流行的Spring Cloud微...

纯洁的虫纸
2017/11/20
0
0
微服务开发架构——Spring Cloud常见问题与总结Turbine 聚合数据不完整

个人GitHub地址:https://github.com/leebingbin/ 在使用Spring Cloud的过程中,难免会遇到一些问题。所以对Spring Cloud的常用问题做一些总结。 三、Turbine 聚合数据不完整 在某些版本的S...

Mr_ET
2017/11/01
0
0
华为云继ServiceComb后宣布开源Mesher,微服务领域薪火不断

2018年6月25日,开源界面盛会LC3上,华为继去年开源微服务方案ServiceComb后,又宣布将于7月份开源微服务领域服务网格ServiceMesh产品化技术Mesher。 ServiceComb社区凭借与华为云的源头关系...

微服务框架
06/26
0
1

没有更多内容

加载失败,请刷新页面

加载更多

下一页

ndarray花式索引

花式索引 花式索引(Fancy indexing)是一个NumPy术语,它指的是利用整数数组进行索引。假设我们有一个8×4数组: In [117]: arr = np.empty((8, 4))In [118]: for i in range(8): ....

火力全開
5分钟前
0
0
Mybaties报错Error querying database

Mybaties我们经常用到动态SQL,如下我们利用动态去做判断,这样写当然没问题,但是当我们不是去判断orgCode(本文中orgCode一直为String类型)是否为空而是判断orgCode是否是一个值的时候该怎...

王子城
7分钟前
0
0
Android 调用手机自带的下载器下载

亲测有用,原文下载地址: 原文地址:https://blog.csdn.net/weixin_36554045/article/details/79108796 下面是原文: 创建一个广播类 public class UpdataBroadcastReceiver extends Broad...

她叫我小渝
10分钟前
0
0
idea工具debug断点红色变成灰色,断点无效

来自:idea工具debug断点红色变成灰色 没事别瞎点,禁用了断点当然不走了 看这篇博客底下的评论笑死我了 真香警告!

不开心的时候不要学习
12分钟前
0
0
知识点总结

jq如何拿到data-info的自定义属性 1.1 原生可以获取到所有属性el.attrbutes 1.2 jq的$(el).attr('属性名称') 继承的几种方式,原型链 2.1 扩展原型对象实现继承 2.2 替换原型对象实现继承 2....

litCabbage
15分钟前
0
0
python语言规范

http://zh-google-styleguide.readthedocs.io/en/latest/google-python-styleguide/python_style_rules/...

ghou-靠墙哭
19分钟前
0
0
istio 监控,遥测 (理论)

Istio提供了一种灵活的模型来强制执行授权策略并收集网格中服务的遥测。 基础架构后端旨在提供用于构建服务的支持功能。它们包括诸如访问控制系统,遥测捕获系统,配额执行系统,计费系统等之...

xiaomin0322
21分钟前
0
0
阿里资深专家面试问题收集

corejava hashcode相等的两个对象一定相等吗?equals呢?反过来相等吗? 介绍一下集合框架? hashtable,hashmap底层实现是什么?hashtable和concurrenthashmap底层实现的区别? hashmap和treemap的...

undefine
22分钟前
8
0
alpine安装软件指定安装源

linux-alpine安装软件指定安装源 一、永久修改apk下载源地址 vi etc/apk/repositories 替换成阿里源 http://mirrors.aliyun.com/alpine/v3.8/main/http://mirrors.aliyun.com/alpine/v3...

我心中有猛狗
23分钟前
0
0
Centos7通过yum安装nginx

添加源地址(直接install可能不是最新版本的) sudo rpm -Uvh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm 安装 sudo yum install -y ng......

iplusx
25分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部