文档章节

MySQL架构设计谈:从开发规范、选型、拆分到减压

狐狸老侠
 狐狸老侠
发布于 2017/08/09 14:57
字数 4343
阅读 8
收藏 0
点赞 0
评论 0

http://mini.eastday.com/mobile/170809003639242.html

随着MySQL自身的发展与不断完善,不知不觉中整个互联网行业已离不开这个完善又小巧的关系型数据库,整个生态链也已经变得非常成熟,即便是初创企业和传统企业也可以放心大胆地把数据库迁移到MySQL上来。在大家和MySQL数据库愉快玩耍的同时,我来聊聊MySQL架构设计相关的一些话题。

本文大纲:MySQL数据库开发规范MySQL高可用架构选型MySQL Sharding拆分利用NoSQL为MySQL减压一、MySQL数据库开发规范

数据库规范到底有多重要?有过初创公司经历的朋友应该都深有体会。规范是数据库运维的一个基石,能有效地减少数据库出问题的概率,保障数据库schema的合理设计并方便后续自动化的管理。

曾经我们花了大半年时间来做数据库规范化的工作,例如制定数据库开发指南、给程序员做培训等,推进的时候也会遇到一些阻力。但规范之后运维质量会有一个质的提升,也增进了DBA的工作效率。

在开发规范方面,我们划分为开发规范和运维规范两部分。

1、开发规范

表设计的规范:字段数量建议不超过20-50个做好数据评估,建议纯INT不超过1500万,含有CHAR的不要超过1000万。字段类型在满足需求条件下越小越好,尽量使用UNSIGNED存储非负整数,因为实际使用时候存储负数的场景不多。将字符转换成数字存储。例如使用UNSIGNED INT存储IPv4 地址而不是用CHAR(15) ,但这种方式只能存储IPv4,存储不了IPv6。另外可以考虑将日期转化为数字,如:from_unixtime()、unix_timestamp()。所有字段均定义为NOT NULL,除非你真的想存储null。

索引设计的规范:

1)所有表必须有显式主键InnoDB表是以主键排序存储的IOT表尽量使用短、自增的列做索引复制结构使用row格式,如果表有主键可以加速复制UNSIGNED INT自增列,也可以考虑BIGINTTINYINT做主键可能导致MySQL Crash类型转换会导致查询效率很低可用uuid_short()代替uuid(),转成BIGINT存储

2)合理地建立索引选择区分度高的列作为索引单个索引字段数不超过5,单表索引数量不超过5,避免冗余索引建立的索引能覆盖80%主要的查询,不求全,解决问题的主要矛盾复合索引排序问题,多用explain去确认

SQL编写规范:

1)避免在数据库中进行大量计算任务大事务拆成多个事务,分批多次操作慎用text、blob大型字段,如要用考虑好拆分方案频繁查询的字典表考虑用Cache抗

2)优化join避免大表与大表之间的join,考虑让小表去驱动大表join最多允许三表join,最好控制成两表控制join后面where选择的行数

3)注重where条件,多用EXPLAIN确认where条件的字段,尽量用区别度高的字段,这样走索引的性能更好出现子查询的SQL,先确认MySQL版本,利用explain确认执行计划进行分页优化;DML时候多个value合并

Schema Review:

1)字符集问题

表字符集选择UTF8 ,如果需要存储emoj表情,就改成UTF8mb4

2)Schema设计原则核心表字段数量尽可能地少,有大字段要考虑拆分适当考虑一些反范式的表设计,增加冗余字段,减少JOIN资金字段考虑统一*100处理成整型,避免使用decimal浮点类型存储日志类型的表可以考虑按创建时间水平切割,定期归档历史数据

3)Schema设计目标快速实现功能为主,保证节省资源平衡业务技术各个方面,做好取舍不要在DB里进行大计算,减少复杂操作

整体来说,这部分规范还是很容易遵守的,实现起来也没有什么难度,就能取得很好的效果。

2、运维规范

(1)SQL审核

SQL评审这部分工作相信让很多的DBA同学都叫苦不迭,人肉审核不仅效率低下,容易出错,对DBA的自身发展也非常不利,难道我们来上班就是为了审核SQL的吗?在经过了一段痛苦的人肉审核之后,我们接入了去哪儿网开源的Inception,并根据自身的业务特点做了一些调整。当然现在开源的SQL评审软件已经很多了,大家可以自由选择,也可以自行开发。

在审核与执行上线DDL语句的时候,要注意MySQL官方原生Online DDL和Percona公司的pt-osc之间的一些差异,例如pt-osc在执行时每次都要copy全表,相对来说比较慢,好处是不锁表,并且有完善的条件检测和延时负载策略控制。官方Online DDL虽然官方也一直在改进,但生产环境使用还不是很完美,尤其要注意执行过程中容易导致MDL锁。官方Online DDL也有优于pt-osc的地方,比如增删索引,重命名列等,如下图所示。

(2)权限控制

Mysql从5.6开始,逐步完善了权限系统,比如MySQL5.6可以安装检查密码强度的插件,5.7开始增加了密码过期机制、账户锁定等功能,对SSL这一块也做了一些优化,8.0版本增加了角色的功能,权限系统已经逐步在向Oracle数据库靠拢了。在日常运维中,也可以使用pt-show-grants工具提高权限审查的力度。应用程序账号应只赋予SELECT、INSERT、UPDATE权限,DELETE的逻辑改用UPDATE实现,并启用sql_safe_updates选项。

另一个有效控制权限的方法就是SQL堡垒机,早期我们通过改造MyWebSQL实现,在Web版客户端的基础上加入了一些资源控制策略、审计、语法校验等功能。后续又使用Python开发了功能更完备的SQL堡垒机,同时支持MySQL、Oracle、Greenplum等数据库。

SQL堡垒机不仅可控制公司内部人员的数据库权限,追溯各类人员对数据库的操作,也能避免大查询或全表更新的情况发生,支持审计需求,整体运维质量提升了一个台阶。

(3)MySQL版本选择MySQL社区版,用户群体最大MySQL企业版,收费Percona Server版,新特性多,和MySQL社区版最接近MariaDB版,国内用户暂时不多选择优先级:MySQL社区版> Percona Server > MariaDB > MySQL 企业版

对于版本选择这件事,建议大家还是跟进官方社区版比较好,目前比较稳定的版本是MySQL5.6,推荐大家使用。有特殊需求的话再选择MySQL5.7、PXC、TiDB、TokuDB等数据库。二、MySQL高可用架构选型

MySQL高可用方面,目前业界主流依然是基于异步复制的技术,例如Keepalived、MHA、ZooKeeper等,要求数据强一致的场景逐步开始使用分布式协议,这方面的典型代表有PXC、Group Replication、TiDB。下面我们就重点来说说keepalived、MHA和PXC这几种大家用得比较多的架构。

1、keepalived高可用架构

业内使用非常普遍,它部署容易、方便维护,还节省服务器资源。这种架构的一个好处就是在发生切换后,原Master只需重新拉起来即可恢复高可用,不需要过多干预。扩展起来也方便,可以任意挂载只读库和灾备库。但它存在的问题也很明显,比如Keepalived的检测机制不完善、有脑裂隐患、数据一致性较弱等等。

还需要注意主从拓扑的设计。如下图,只读库挂到哪个Master比较合适?显然是M2,其它两种拓扑在发生切换后都会影响到只读库的访问。

2、MHA

MHA自诞生以来,就得到了业内的广泛关注,并迅速流行开来。与keepalived相比,MHA最大的优点就是在发生故障切换之后,能自动补齐binlog,最大程度保证数据一致性。从服务器能自动切换,无需人工干预,能非常好的工作在读写分离的环境下。基于Perl语言的脚本也非常方便进行二次开发。MHA非常适合读写压力比较大的应用。

但由于MHA在工作时需要配置SSH互信,因此选择这种架构时内网安全一定要做到位。另外也可以搭配Binlog Server使用。

3、PXC

PXC全称是Percona XtraDB Cluster,是Percona公司基于Galera协议开发的一个产品。PXC牺牲了CAP里面的P(Partition Tolerance),保留了C(Consistency )和A(Availability )。这种结构非常适合电商、金融类业务,自PXC和Group Replication出现以后,MySQL彻底扫清了进入金融行业的障碍。

PXC的优势:同步复制,解决了传统架构复制延迟和脑裂的问题数据强一致多主复制,每个节点都可以读写数据并行复制,多个事务可以并行推送到其他节点高可用,单点故障不影响集群可用性新节点自动部署与传统MySQL几乎完全兼容

使用PXC要注意的问题:不要有大事务木桶效应,集群性能取决于性能最差的那个节点并发效率有损失网络要求较高,建议万兆网络多点并发写时锁冲突、死锁问题多写无法扩展,无法解决热点更新问题

除此之外,还有一类采用DNS/ZooKeeper的高可用架构,这种架构通常都需要自行开发,无通用的方案,比较适合大规模集群的高可用,这里我们不过多赘述。

下面简单回顾一下上述几种高可用架构:双Master架构:非常成熟,使用很普遍,要注意延迟和数据的一致性。PXC: 分布式协议,数据强一致性,并发效率略低,可用性好MHA:各项指标介于M-M和PXC之间,性能无损失,适合读写分离架构。

总而言之,没有最完美的架构,只有最适合的架构。选择适合自己业务的即可。三、MySQL sharding拆分

接下来是第三个议题,MySQL拆分原则和分库分表设计。

首先先提一个问题,为什么要拆,不拆不行吗?按照我们的经验来看,当数据和业务到了一定的规模,都不可避免的要面临分库分表的问题。这就好像汽车的发动机一样,要达到更高的性能,4缸6缸明显是不够用的,V8、V12才是王道。

拆分能解决如下几个问题:单库并发较大单库物理文件太大单表过大,DDL无法接受防止出现性能瓶颈,提升性能防止出现抖动不稳定现象

确定要进行数据库的拆分了,应该怎么拆呢?

垂直拆分

优点:拆分简单明了,拆分规则明确应用程序模块清晰,整合容易数据维护方便易行,容易定位

缺点:表关联需要改到程序中完成事务处理变的复杂热点表还有可能存在性能瓶颈过度拆分会造成管理复杂

水平拆分

优点:不会影响表关联、事务操作超大规模的表和高负载的表可以打散应用程序端改动比较小拆分能提升性能,也比较易扩展

缺点:数据分散,影响聚集函数的使用切分规则复杂,维护难度增加后期迁移较复杂

要先分库还是先分表?分库的优点:实现简单,库与库之间界限分明,便于维护,缺点是不利于频繁跨库操作,单表数据量大的问题解决不了。分表的优点:能解决分库的不足点,但是缺点恰恰是分库的优点,分表实现起来比较复杂,特别是分表规则的划分,程序的编写,以及后期的数据库拆分移植维护。

一巴掌拍板直接选分库或分表都是不可取的,主要是看需要达到什么样的扩展方式,才能决定先分库还是先分表,根据具体的场景决定。分库分表的最终目的还是为了扩展,而且要看拆分的规划设计是针对哪一层。

上述问题都解决了,该考虑如何实现了,到底是在应用程序中实现,还是使用中间件?个人建议如果是小规模的拆分,直接在程序逻辑中实现即可,大规模的拆分再考虑使用各种中间件。

目前业内已经开源了很多的MySQL中间件产品,例如Atlas、DBProxy、MyCAT、OneProxy、DRDS、Vitess等等,每个中间件都有自己的特点,个别不太成熟的可能会存在一些Bug,选用之前要做好相关的调研与测试工作,上线使用一定要保证自己能hold住。如果要完全贴合自身业务,并且掌控得较好的还是要自行开发。

下面说说我们的拆分经验。

首先我们先在压力比较大的数据库上做垂直拆分,剥离出活动、后台统计等业务。这一步也是最容易实现的。

接下来,如果是消息类的数据,就基于时间维度进行拆分,单表控制在5-10G,行数控制到500-1000w这个样子。这个时候我们发现数据库的性能是比较好的,而且比较好维护。如果是用户类的数据,就按照Hash或Range进行拆分。这种情况下用这种方法拆分会拆的比较均匀一些。

并发仍然比较高怎么办?可以在时间维度拆分的基础上再按Range或Hash进行拆分。

最后要注意的就是不要过度的拆分,会造成复杂度的上升。Schema设计合理的情况下,10亿的数据量也能跑的好好的。个别不关键的应用,例如日志、监控数据等,使用分区表、TokuDB也能抗。拆分对应用层总是有损的。

要做个“懒”DBA。

四、利用NoSQL为MySQL减压

最后一个议题,我们聊一聊NoSQL。NoSQL现在遍地开花,应用也很广泛了,业内用的比较多的主要集中在Redis、MongoDB、Cassandra等NoSQL数据库上。今天我们主要来说说和MySQL关联最为密切的Redis。

为什么要使用Redis?数据存储在内存中,访问速度快能支持大批量操作及爆发性负载数据结构丰富,有效缓解MySQL压力协议简单,支持各种语言的API存储大量数据无需担心性能

Redis主要作用还是抗读的压力。读操作先到Redis,Redis中取不到再从MySQL数据库访问,从MySQL读取到数据后,还要回写到Redis。

使用Redis要注意的几点:

性能方面,由于Redis完全是基于内存的访问,性能无需担心。

在使用Redis时,要注意Cache 和Storage不要混合使用。不要依赖Redis的持久化,持久化这一块Redis要努力的还很多。另外如果你把Redis拿来做Storage的话,一旦Redis的内存跑满,那就惨了,所有的Redis连接都会卡着不响应。如果只是把Redis来做cache的话,那问题就不大。

还有诸如缓存穿透、缓存雪崩、热点key重建时缓存失效这些问题也是重点关注的对象。

如何利用Redis给MySQL加速:

1)利用K/V结构,缓存结果,例如存储用户信息、全局排行、统计信息等。

2)利用其丰富的数据结构为MySQL减压,例如计数器、排序、Hash(把表映射到Redis中)、消息队列等。总结

系统架构设计是一个长期总结与进化的过程,讲究均衡与取舍。在进行大规模MySQL架构设计的过程中,除了要汲取别人的经验之外,还要关注各种架构背后的业务场景与架构思想,与自己的实际业务场景相结合,才能设计出一个好的系统架构来。

本文转载自:http://mini.eastday.com/mobile/170809003639242.html

共有 人打赏支持
狐狸老侠
粉丝 0
博文 20
码字总数 2827
作品 0
朝阳
“2017年度十大MVP”入选者干货好文回顾

“2017年度十大MVP评选”开始征集大众投票啦!为了方便大家回顾各位MVP入选者在这一年来的精彩技术贡献,投出你最宝贵的一票,小编在此整理了一份原创文章合集,点击文章标题即可阅读全文! ...

⋅ 2017/11/10 ⋅ 0

120篇精华文章打包送,干货慎入!

src="https://mmbiz.qlogo.cn/mmbizgif/tibrg3AoIJTs9tKPGWA0XIGYY3KktDibtM9urTzjn9JqcmlWC9gSppmkqOJD0KwyQvGcXTic8lWsyMZ36MfTuMjvg/0?wx_fmt=gif" data-ratio="0.6875" data-type="gif" ......

输出爆表的 ⋅ 2017/08/07 ⋅ 0

美图秀秀DBA谈MySQL运维及优化

随着MySQL应用的不断普及和自身发展,如何更好的优化MySQL和使用MySQL,依然是一个比较有挑战的问题,尤其是在业务快速增长的场景下。本次分享主要介绍一些通用的运维优化实践和问题,以及未...

杨尚刚 ⋅ 2015/12/31 ⋅ 0

高手问答第 161 期 —— 追求性能和稳定,MySQL 中间件该如何选型?

OSCHINA 本期高手问答(2017 年 7 月 12 日 — 7 月 18 日)我们请来了@叶金荣和@吴炳锡为大家解答 MySQL 中间件选型方面的问题。 叶金荣,知数堂培训联合创始人,Oracle MySQL ACE,MySQL 布...

局长 ⋅ 2017/07/11 ⋅ 34

高手问答第 154 期 — 进阶学习,MySQL 高可用该如何选型?

OSCHINA 本期高手问答(2017 年 5 月 23 日 — 5 月 29 日)我们请来了@叶金荣和@吴炳锡为大家解答 MySQL 高可用方案选型相关的问题。 叶金荣,知数堂培训联合创始人,Oracle MySQL ACE,MyS...

局长 ⋅ 2017/05/22 ⋅ 39

从单体架构迁移到微服务,8个关键的思考、实践和经验

随着微服务架构的持续火热,网络上针对微服务和单体架构的讨论也是越来越多。去年的时候,社区更多的关注点是在二者的区别以及优缺点辨析上,而今年,越来越多的人开始关注如何从单体架构迁移...

夕水溪下 ⋅ 2016/09/20 ⋅ 0

高手问答第 176 期 —— MySQL 8.0 有哪些值得关注的新特性?

OSCHINA 本期高手问答(2017 年 11 月 8 日 — 11 月 14 日)我们请到了@叶金荣 和@吴炳锡和大家一起探讨 MySQL 8.0 有哪些值得关注的新特性。 叶金荣,知数堂培训联合创始人,Oracle MySQL ...

局长 ⋅ 2017/11/07 ⋅ 21

[SiS预览版]发起一个用于讨论大型网站架构的开源项目

项目名称:Sailing in Sun(阳光下远航) 简称:SiS 说明:SiS的目标是用于讨论大型网站架构,会做些类似于Discuz 和PHPWind的功能,但在功能上不会那样丰富,因为主要关注的 焦点在于项目的...

云翟GE ⋅ 2010/12/18 ⋅ 5

高手问答第 171 期 — 海量数据环境下,MySQL 该如何应对?

OSCHINA 本期高手问答(2017 年 9 月 20 日 — 9 月 26 日)我们请来了@叶金荣 和@吴炳锡为大家解答 MySQL 如何应对海量数据方面的问题。 叶金荣,知数堂培训联合创始人,Oracle MySQL ACE,...

局长 ⋅ 2017/09/19 ⋅ 50

58到家数据库30条军规解读

一、基础规范 (1)必须使用InnoDB存储引擎 解读:支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高 (2)必须使用UTF8字符集 解读:万国码,无需转码,无乱码风险,...

xrzs ⋅ 2012/12/06 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

Android JNI 读写Bitmap的方法

Java层创建Bitmap,通过JNI将Bitmap传到C/C++进行处理 Java部分 public static native boolean greenBitmap(Bitmap bitmap); C/C++部分 JNIEXPORT jboolean JNICALL Java_com_test_Test_gree......

国仔饼 ⋅ 3分钟前 ⋅ 0

一次性让你懂async/await,解决回调地狱

什么是async? 欢迎留言讨论 async 函数是 Generator 函数的语法糖。使用 关键字 async 来表示,在函数内部使用 await 来表示异步。相较于 Generator,async 函数的改进在于下面四点: 内置执...

阿K1225 ⋅ 4分钟前 ⋅ 0

angular常用命令

.下载更新操作 1.利用npm下载angular的命令行工具AngularCLI: npm install -g @angular/cli 2.下载jquery: npm install --save jquery 3.更新npm: npm i -g npm 4.更新angular: ng update ......

消散了的诗意 ⋅ 6分钟前 ⋅ 0

window.print 页面打印

定义和用法 print() 方法用于打印当前窗口的内容。 语法 window.print(); window.print() 实际上,是浏览器打印功能菜单的一种程序调用。与点击打印功能菜单一样,不能精确分页,不能设置纸型...

初学者的优化 ⋅ 7分钟前 ⋅ 0

魔兽世界 7.0版本上 PVE装备全攻略

  T套 因为大家应该都会打穿副本的所以具体是哪个boss我就不说了。   T1: 所有套装都在【熔火之心】出   T2: 头原来是在【奥妮克希亚的巢穴】改到黑翼之巢的奈法利安了,腿是在【熔火之...

wangchen1999 ⋅ 7分钟前 ⋅ 0

java.math.BigDecimal使用小结

原文地址 java.math.BigDecimal使用小结 divide方法 使用BigDecimal.divide方法时一定要考虑: 除数是否为0 商是否是无限小数 正确的使用方式 判断除数是否为0,是0做另外的处理逻辑 调用除法...

666B ⋅ 10分钟前 ⋅ 0

关于qstring转char乱码问题。

if (OpenClipboard(NULL)) { HGLOBAL hgClip; EmptyClipboard(); QByteArray byay = FValue.toLocal8Bit(); //转latin编码 char *bochsrc_line = byay.data(); hgClip = GlobalAlloc(GMEM_DD......

backtrackx ⋅ 10分钟前 ⋅ 0

了解SSH加密和连接过程

介绍 SSH或安全shell是安全协议,也是安全管理远程服务器的最常用方式。通过使用多种加密技术,SSH提供了一种机制,用于在双方之间建立加密安全连接,对彼此进行身份验证,以及来回传递命令和...

吴伟祥 ⋅ 17分钟前 ⋅ 0

微信小程序

小程序的基础配置:导航栏和tabbar 在app.json文件中配置导航栏和tabrbar 导航栏的设置 设置导航,背景黑色,文字白色,文字内容 { "pages":[ "pages/index/index", "pages/logs/l...

上官清偌 ⋅ 20分钟前 ⋅ 0

【转】百度坐标坐标系之间的转换(JS版代码)

/** * Created by Wandergis on 2015/7/8. * 提供了百度坐标(BD09)、国测局坐标(火星坐标,GCJ02)、和WGS84坐标系之间的转换 *///定义一些常量var x_PI = 3.1415926535897932...

HAVENT ⋅ 21分钟前 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部