文档章节

iDB是如何运转的 一

旁观者-郑昀
 旁观者-郑昀
发布于 2015/12/08 14:32
字数 1824
阅读 47
收藏 2

郑昀 创建于2015/12/2 最后更新于2015/12/4

关键词:数据库,MySQL,自动化运维,DDL,DML,SQL审核,备份,回滚,Inception,osc


  每个大型互联网公司都有一个数据库自动化运维系统,比如 Qunar 有 Inception(已开源),美团也有,赶集网的3个 DBA 开发了一个变更自助发布系统,淘宝和新浪呢都叫 iDB,腾讯互动娱乐团队有个 TMySQL。

  大家都做这件事,一定是因为当数据量大到一定程度,数据重要到一定程度时,online schema change 和刷库不容有失,第一解决锁表问题,不能影响线上业务,第二搞定操作回滚问题,第三解救 DBA 于倒悬。我们的实现请参考《#研发解决方案#iDB-数据库自动化运维平台》。

 

0x00,普通DBA和文艺DBA怎么做SQL审核

无论是 DDL 操作,还是数据订正(也被称为 DML 操作),都涉及 SQL 审核、预执行和数据备份及回滚。

 

1,普通 DBA 青年的做法是:

  1. Dev 或 CM 给 DBA 发执行脚本,
  2. DBA 肉眼审核,
    • 语法错误/语义错误/不符合规范/……
  3. 驳回,修改,审核,再驳回,……,通过,
  4. DBA 执行前做一次全表备份,
    • 援引 Inception 文档的原话:
    • 备份是必要的,因为语句在没有执行时,都是想不到它影响会有多大,一般是不需要,而需要时,才知道备份是多么的重要,这也正是应了一句谚语:“书到用时方恨少,事非经过不知难。”,但这个工作也很让人为难,应该备份全表呢?还是把影响的查出来备份呢?DBA在这个时候肯定是不愿意这样做的,但万一出问题怎么办?都懂得,不说了。』
  5. 执行,
  6. Dev 或 QA 检查,
  7. 收兵,或许有问题,则备份还原。

 

2,稍微文艺一些的 DBA 青年的做法是:

  1. Dev 或 CM 登录自动化运维系统,提交 SQL 脚本,
  2. SQL 审核组件对脚本自动审核,检查语法,检查规范,
  3. DBA 点击预执行,脚本在测试数据库上 explain 或直接执行,获得第一手数据,
    • 影响行数,索引使用情况
    • 预估执行时间
  4. DBA 确认无误后,审核通过,系统按时在生产库上执行,执行前系统将生产库数据备份。

或者援引 Inception 文档里的这张图示意:

Inception的架构

图1 Inception的架构

 

0x01,预执行库如何实操

我们云纵对 iDB 的设想是,当审核 DDL 操作时,环境中部署一个预执行库。当 iDB 上要做预执行时,iDB 程序调用命令行暂停预执行库的同步,等预执行回滚之后恢复同步,避免因为表结构变化而同步停止。预执行库不需要配置为 blackhole,因为我们需要真实数据来获得执行耗时,来决定我们应以什么策略在线上自动执行。

 

下面展示一下预执行时审核详情页上点击”生成执行明细“按钮的效果:

审核详情页

 

我们可以在这里选一下“执行方式”,共有三种可选:

  • nobinlog:适合我们的 Cobar 库,合并库和主站库。先执行从库,再执行主库。从库执行之后,会给30分钟时间确认是否执行主库。
  • binlog:非 Cobar 库操作。
  • osc:对应于 MySQL 的在线 schema 修改工具 pt-online-schema-change。它先创建一个 tmp 表作为原表导数据的临时表,然后在原表上建立三个触发器,对应 Insert、Update、Delete 三种操作,再拷贝原表数据到临时表中,Rename 原表为 old 表,再把临时表 Rename 为原表,最后清理以上过程中不再使用的数据,如 old 表。它强调的是”在线更改表结构“,适合于大表。我们看一下 Inception 怎么做的:Inception 有一个设置项 inception_osc_min_table_size,默认为 16MB,表示表空间占用大于 16MB 时自动选择 osc 方式执行。

 

0x02,Inception 对备份/回滚服务器的特殊处理

Inception 在做 DML 操作时,会将所有当前语句修改的行备份下来,存储到一个指定的库中。Qunar 在这里有一些特殊设计,值得借鉴。

下面文字搬运自他们的文档:

备份数据在备份机器的存储,是与线上被修改库一对一的。但因为机器多(线上机器有很多)对一(备份机器只有一台),所以为了防止库名的冲突,备份机器的库名组成是由线上机器的 IP 地址的点换成下划线,再加上端口号,再加上库名三部分,这三部分也是通过下划线连接起来的。例如:

192_168_1_1_3310_inceptiondb

一个备份库,里面的表与对应线上表都是一一对应的,也就是说线上库 inceptiondb 中有什么表,在备份库 192_168_1_1_3310_inceptiondb 中就有什么表,表名也完全相同,不同的只是表中的列不同而已,它是用来存储所有对这个表修改的回滚语句的,对应的表包括的列主要有下面两个:

rollback_statement text:这个列存储的是针对当前这个表的某一行被修改后,生成的这行修改的回滚语句。因为 binlog 是 Row 模式的,所以不管是什么语句,产生的回滚语句都是针对一行的,同时有可能一条语句的修改影响了多行,那么这里就会有多个回滚语句,但对应的是同一个 SQL 语句。对应关于通过下面的列来关联起来。

opid_time varchar(50):这个列存储的是的被执行的 SQL 语句在执行时的一个序列号,这个序列号由三部分组成:timestamp(int 值,是语句被执行的时间点),线上服务器执行时所产生的 thread_id,当前这条语句在所有被执行的语句块中的一个序号。产生结果类似下面的样子:1413347135_136_3,针对同一个语句影响多行的情况,那么所产生的多行数据中,这个列的值都是相同的,这样就可以找到一条语句对应的所有被影响数据的回滚语句。

于是线上库表结果与备份库表结构的对应关系为:

Inception的备份服务器

图2 Inception的备份服务器

 

-未完待续-

参考资源:

1,Inception使用规范及说明文档

2,2014,isadba,pt-online-schema-change工具文艺用法;

3,2014,博客园-王滔,mysql在线修改表结构大数据表的风险与解决办法归纳

4,2011,杨挺,OSC 实现原理剖析

5,2015,郑昀,#研发解决方案#iDB-数据库自动化运维平台

© 著作权归作者所有

旁观者-郑昀
粉丝 100
博文 77
码字总数 162700
作品 0
朝阳
私信 提问
十年磨一剑,阿里巴巴企业级数据管理平台:iDB

摘要: 阿里巴巴企业级数据库管理平台iDB面向云时代推出数据管理DMS企业版,是业界首创的数据库DevOps解决方案,形成了云时代企业数据管理的最佳实践。 十年间,阿里巴巴的研发人员也增长了十...

全部原谅
2017/08/15
232
1
BCGControlBar中文教程之Ribbon Bar(2/3)

BCGControlBar Pro for MFC最新试用版下载请猛戳>>> 如何在您的应用程序中添加ribbon控件 1. 打开MainFrme.h,删除CBCGPMenuBar mwndMenuBar和CBCGPToolBar mwndToolBar。 2. 为Ribbon Bar和......

Miss_Hello_World
2016/08/16
12
0
[RK3288][Android6.0] WiFi MAC地址获取流程小结

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/kris_fei/article/details/84347656 Platform: RK3288 OS: Android 6.0 Kernel: 3.10.92 用户空间如何查看MAC...

KrisFei
2018/11/22
0
0
HanLP二元核心词典详细解析

本文分析:HanLP版本1.5.3中二元核心词典的存储与查找。当词典文件没有被缓存时,会从文本文件CoreNatureDictionary.ngram.txt中解析出来存储到TreeMap中,然后构造start和pair数组,并基于这...

左手的倒影
2018/12/03
9
0
如何修正越狱过程中的 lockdown error -5 以及 Could not connect to lockdown 错误

昨天晚上 Absinthe 2.0 发布之后,很多网友都碰到了 lockdown error -5 以及 Could not connect to lockdown 错误导致越狱失败。那么这个问题到底是什么原因引起的,又该如何解决呢?iDB 博客...

鉴客
2012/05/27
1K
1

没有更多内容

加载失败,请刷新页面

加载更多

Vue.js学习笔记2 - better-scroll滚动条

better-scroll滚动条 使用作者自制的better-scroll库,实现内容的滚动。 先在package.json加上依赖: "better-scroll": "^0.1.7" 接着再npm install安装依赖。 import BScroll from 'better-......

swanf
今天
7
0
设计模式之适配器模式

定义 将一个类的接口变换成客户端所期待的另一种接口,从而使原本因接口不匹配而无法在一起工作的两个类能够在一起工 作。 UML类图 适配器分为两种,类适配器与对象适配器。 类适配器的UML图...

陈年之后是青葱
今天
8
0
教你玩转Linux—磁盘管理

导读 Linux磁盘管理好坏直接关系到整个系统的性能问题,Linux磁盘管理常用三个命令为df、du和fdisk。 df df命令参数功能:检查文件系统的磁盘空间占用情况。可以利用该命令来获取硬盘被占用了...

问题终结者
今天
13
0
KMP

字符串匹配算法 针对被匹配字段生产一个部分匹配表 A B C D A B D 0 0 0 0 1 2 0 部分匹配表 熟悉前缀与后缀的概念 ,“部分匹配表” 的生产就是根据前缀、后缀的最苍的共有元素的长度 前缀:...

鬼才王
昨天
6
0
快速搭建Jenkins集群

关于Jenkins集群 在Jenkins上同时执行多个任务时,单机性能可能达到瓶颈,使用Jenkins集群可以有效的解决此问题,让多台机器同时处理这些任务可以将压力分散,对单机版Jenkins的单点故障的隐...

程序员欣宸
昨天
13
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部