文档章节

面向海量数据的极致成本优化-云HBase的一体化冷热分离

阿里云官方博客
 阿里云官方博客
发布于 09/17 13:53
字数 2641
阅读 19
收藏 0

前言

随着业务的持续发展,业务数据库存储量会持续增长。通常数据量过亿时,就需要考虑做分库分表,或者选择扩展能力更好的NOSQL/NewSQL数据库,如HBase就可以单表支持PB级数据,足够满足大多数业务的存储需求。然而,对于大量存储瓶颈类业务,存储成本依然是系统设计中需要关注的重中之重,冷热分离的解决方案应用而生。

适合冷热分离的业务

账单/订单类系统的数据非常适合做冷热分离,这类系统的数据随着时间的推移往往会积攒了海量数据,而且由于数据的重要性,这些数据都要被永久保存。但是,用户往往只会查询最近消费的订单或者账单,超过半年的订单基本不会被访问。

 

监控系统的数据也呈非常明显的冷热分层特性。用户通常只会查看实时监控,历史数据只有在回溯故障的时候,才可能去查询。而如果把实时数据与历史数据混杂在一起,不仅会让存储的成本非常高,而且会拖慢实时查询的速度。

 

聊天系统是冷热分离的另外一个实用场景,用户通常只会查看实时的聊天消息,聊天记录的访问频次要低非常多。

 

总的来说,适合将数据做冷热分离的业务会有以下几个特征:

  • 海量数据持续增长的业务:如交易历史数据,聊天记录,数据无法做TTL,且单个用户的数据会持续累加。
  • 数据生命周期分明的业务:如监控数据,物流信息,feed收件箱,通常只会查询近期的数据,冷数据仅作为回溯问题使用。
  • 重写轻读的业务:在IOT场景下,车联网中会有大量车辆上报的传感器信息,和实时的轨迹信息,写入吞吐会非常大。但是这些数据往往只是用来做归档,查询的频率非常低。

现有冷热分离方案

目前业界的冷热分离方案大多是将数据分为冷库和热库两个库。热库可以采用速度较快,但存储成本比较高的数据库方案如内存数据库Redis,或是MySQL+SSD存储介质。而冷库则采用存储成本比较低的数据库方案,如MySQL+HDD或者是使用HBase等稀疏存储的NoSQL数据库,甚至使用高压缩比的列存数据库。而热库到冷库的数据迁移往往会有以下几个方案。

冷热库定时迁移

用户实时写入热库,并通过其他中间件定时将旧的数据倒入离线库。比如,热库可以是使用SSD介质的MySQL数据库,而冷库可以是使用HDD介质的MySQL数据库,通过DataX等数据迁移工具,定期将热库的数据迁移到HDD介质的冷库中。

 

冷热库双写

用户实时双写冷热库,热数据在较短时间后过期(对于不支持TTL的数据库,需要删除清理)。比如热库采用内存数据库Redis,冷库采用MySQL或者海量存储HBase,数据同时写入Redis热库和冷库。Redis中只保留最近7天的数据。查询层先查询在线库,如果在线库无数据则直接查询离线库返回。此方案无需维护一个定时迁移的任务,但是需要依赖用户双写。

 

基于日志的增量导出方案

在方案2的基础上,很多有日志导出能力的数据库提供了基于日志的离在线库同步方案。比如我们可以使用MySQL做热库,HBase做为冷库,然后通过导出MySQL binlog的方式,将数据增量写入到HBase中。除此之外,redis的冷热分离方案swapdb,本身也是基于redis的PSYNC实现,本质上也是属于增量导出的方案。

 

此方案可以上减少冷热数据库管理的开销。然而这种方案仍然需要用户自行管理在线库数据的生命周期问题,且需要额外的查询层来分别访问冷热数据。

无论是使用哪种同步方案,将数据分为热库和冷库两个库的方案,都存在一定的缺陷:

运维难度增加

用户需要运维热库和冷库两个数据库,在使用增量导出时,用户还需要维护一个定时任务来做数据导出。

数据一致性难以维护

无论是哪种数据同步方案,冷库和热库的数据一致性很难保证。比如说双写方案,用户需要处理一边写成功一边写失败的情况来自行维护两边数据的一致性。定时迁移方案和增强导出由于数据迁移都是异步的,处于冷热边界的数据有可能还在热库中,也有可能已经进入到冷库,多次读取可能会产生不同的结果。

用户查询改造成本大

对于业务来说,使用了冷热分离后,数据对于业务来说不再是一个“单库”,用户需要决定这一次查询需要去热库查询还是要去冷库,并且由于冷热数据数据迁移是异步的,用户并不知道数据到底是在热库还是冷库中,通常要冷热库一起查才能得到全量数据。另外,在使用异构的冷库和热库的情况下(如热库使用Redis/MySQL,冷库使用MySQL/HBase),用户必须针对热库和冷库查询开发两套查询接口,开发成本大大上升。

冷热分离一体化 —— 海量数据冷热分离终极解决方案

针对设置冷库热库这种将数据分离开,给业务带来运维和改造困难的缺陷,云HBase增强版开发了全新的一体冷热分离特性——在同一张表中全透明地实现冷热分离,服务端自动根据用户设置的冷热分界线自动将表中的冷数据归档到冷存储中。

 

冷热分离一体化的核心是应用无感知,HBase增强版用户无需改动一行查询即可享受冷热分离带来的好处。冷数据和热数据存储在一张表中,通过LSM的compaction操作在后台将热数据定期迁移到冷数据中。用户可以通过设置访问的timerange来实现查询优化,也可以完全不指定hint,云HBase增强版会保证在查询结果无损的情况下通过kv层的访问优化来最大程度上规避冷数据的访问。

冷热分离的一大目的就是为了降低存储成本,HBase增强版目前选用了云盘(高效/SSD)做为热数据存储,而使用了低成本的OSS做为了冷存储,冷存储成本仅为高效云盘的1/3。

 

在使用过程中,用户只需要在HBase的表上加上冷热分界线这个设置,即可开启冷热分离功能。在下面的例子中COLD_BOUNDARY被设置为86400秒(一天),代表这张表中一天前的数据会被自动归档在冷存储中。

 
hbase(main):002:0> create 'chsTable', {NAME=>'f', COLD_BOUNDARY=>'86400'} 

在查询时,由于冷热数据都在同一张表中,用户全程只需要和一张表交互。用户可以设置Hot_Only的Hint告诉服务器只查热数据,或者在Get/Scan请求中加上TimeRange,系统会根据设置TimeRange决定是查询热区,冷区还是冷热都查。具体的使用方式可以参考HBase增强版帮助文档中的冷存储和冷热分离章节

一体化的冷热分离方案完全避免了分库方案的种种弊端。

分库方案云HBase增强版冷热分离一体化运维复杂度需要运维冷热两个库,并可能为异构数据库业务冷热数据都在同一个库中数据一致性两个库之间数据一致性很难保证冷热数据在同一个表中,不存在一致性问题查询复杂度查询复杂度高,需要分别查两个库,查询复杂度高冷热数据一体化,业务查询无需改造使用复杂度使用复杂度高,涉及到两个库的配置和查询接口开发使用简单,冷热分离一个配置搞定

最后

云HBase增强版是基于阿里内部HBase分支(别称Lindorm)构建,历经9年大规模考验,多次支持天猫双十一,服务于阿里经济体中的淘宝,天猫,支付宝,高德,优酷等几乎所有部门。阿里内部署超过12000台机器,主打成熟稳定、高性能、低成本、多租户及安全等大规模场景追求的能力,并提供了最高7倍于HBase开源版本的性能和一半的存储成本。冷热分离只是HBase增强版众多企业级特性中的一个。欢迎大家使用HBase增强版,直达连接:https://promotion.aliyun.com/ntms/act/hbaseenhancededition.html

招贤纳士

欢迎对数据库、云计算、大数据有兴趣的同学,加入阿里云数据库NoSQL团队(校招&社招),一起探索学习数据库及存储计算的创新动向,在云计算的蓬勃发展中做更好的自己!

原文链接

本文为云栖社区原创内容,未经允许不得转载。

© 著作权归作者所有

阿里云官方博客
粉丝 194
博文 2116
码字总数 5267624
作品 0
杭州
程序员
私信 提问
阿里云HBase推出全新X-Pack服务 定义HBase云服务新标准

2018年12月13日,第八届中国云计算标准和应用大会在京召开,会上阿里云HBase宣布推出全新X-Pack服务,支持SQL、时序、时空、图、全文检索能力、复杂分析,从处理到分析全栈式数据库,客户开箱...

桐碧2018
2018/12/17
0
0
选择阿里云数据库HBase版十大理由

根据Gartner的预计,全球非关系型数据库(NoSQL)在2020~2022预计保持在30%左右高速增长,远高于数据库整体市场。 阿里云数据库HBase版也是踏着技术发展的节奏,伴随着NoSQL和大数据技术的兴...

阿里云云栖社区
04/24
0
0
HBaseCon亚洲2018峰会盛大开幕 阿里带你洞悉HBase大数据生态最新发展和行业实践

8月17日,HBaseCon亚洲2018峰会在北京歌华开元大酒店盛大开幕。作为Apache基金会旗下HBase社区的顶级用户峰会,HBaseCon大会是Apache HBase™官方从2012年开始发起和延续至今的技术会议,先后...

桐碧2018
2018/08/17
0
0
阿里云HBase Ganos全新升级,推空间、时空、遥感一体化基础云服务

1、HBase Ganos是什么 Ganos是阿里云时空PaaS服务的自研核心引擎。Ganos已作为云数据库时空引擎与数据库平台融合,建立了以自研云原生数据库POALRDB为基础,联合NoSQL大数据平台(Ali-HBASE...

Mr_zebra
09/11
23
0
八年技术加持,性能提升10倍,阿里云HBase 2.0首发商用

阿里云HBase 2.0成长手记,含着金汤匙出身 HBase本身是一个分布式存储、数据库引擎,可以支持千万的QPS、PB级别的存储,这些都已经在生产环境验证,并且在阿里得以验证。 早在2010年开始,阿...

云攻略小攻
2018/11/28
0
0

没有更多内容

加载失败,请刷新页面

加载更多

iOS Xcode升级包地址(感谢大神)

下载地址:DeviceSupport

_____1____
19分钟前
6
0
Qt编写自定义控件71-圆弧进度条

一、前言 现在web形式的图表框架非常流行,国产代表就是echart,本人用过几次,三个字屌爆了来形容,非常强大,而且易用性也非常棒,还是开源免费的,使用起来不要太爽,内置的各种图表和仪表...

飞扬青云
19分钟前
4
0
润乾报表与 ActiveReport JS 功能对比

简介 润乾报表是用于报表制作的大型企业级报表软件,核心特点在于开创性地提出了非线性报表数学模型,采用了革命性的多源关联分片、不规则分组、自由格间运算、行列对称等技术,使得复杂报表...

泡泡糖儿
30分钟前
5
0
【1015】LNMP架构二

【1015】LNMP架构二 三、PHP安装 PHP安装和LAMP安装PHP方法有差别,需要开启php-fpm服务 1、下载PHP7至/usr/local/src/ 切换目录:cd /usr/local/src 2、解压缩 tar -jxvf php-7.3.0.tar.gz...

飞翔的竹蜻蜓
今天
5
0
浅谈Visitor访问者模式

一、前言 什么叫访问,如果大家学过数据结构,对于这点就很清晰了,遍历就是访问的一般形式,单独读取一个元素进行相应的处理也叫作访问,读取到想要查看的内容+对其进行处理就叫作访问,那么...

青衣霓裳
今天
8
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部