文档章节

MaxCompute访问TableStore(OTS) 数据

_夜枫
 _夜枫
发布于 2017/04/09 21:19
字数 3946
阅读 18
收藏 0

0. 前言

MaxCompute作为阿里云大数据平台的核心计算组件,承担了集团内外大部分的分布式计算需求。而MaxCompute SQL作为分布式数据处理的主要入口,为快速方便处理/存储EB级别的离线数据提供了强有力的支持。 随着大数据业务的不断扩展,新的数据使用场景在不断产生,在这样的背景下,MaxCompute计算框架也在不断的演化,原来主要面对内部特殊格式数据的强大计算能力,也正在一步步的开放给不同的外部数据。 之前我们介绍了怎样在MaxCompute上处理存储在OSS上面的非结构化数据,在这里我们将进一步介绍如何将来自TableStore(OTS)的数据纳入MaxCompute上的计算生态,实现多种数据源之间的无缝连接。

对于在线服务等应用场景,NoSQL KV Store(e.g., BigTable, HBase)相比传统数据库,具有schema灵活,易扩展,实时性强等优点。阿里云TableStore(OTS) 是在阿里飞天分布式系统之上实现的大规模的NoSQL数据存储服务,提供海量KV数据的存储和实时访问。 在集团内部各BU以及外部阿里云生态圈中具有广泛的应用。 尤其是TableStore在行级别上的实时更新和可覆盖性写入等特性,相对于MaxCompute内置表append-only批量操作,提供了一个很好的补充。 但是TableStore作为一个偏存储的服务,对于存储在其上的海量数据,在大规模批量并行处理的计算能力有所欠缺。 在这样的背景下,打通MaxCompute的计算和TableStore存储之间的数据链路就显得尤其重要。

1. MaxCompute对TableStore数据进行读取和计算

1.0 使用前提和假设

1.0.1 MaxCompute 2.0计算框架非结构化功能的打开

首先要说明的是MaxCompute新一代的2.0计算框架还在灰度上线的过程中,默认设置下许多功能没有打开,所以要使用新引进的非结构化数据处理框架,**需要申请MaxCompute 2.0试用**,具体开通使用方法请参见 如何申请试用MaxCompute 2.0, 简单来说就是在开通2.0非结构化功能的前提下,在每个SQL query执行时必须带上如下setting:

set odps.task.major.version=2dot0_demo_flighting;

set odps.sql.planner.mode=lot;

set odps.sql.ddl.odps2=true;

set odps.sql.preparse.odps2=lot;

下面的范例中就不再重复了,**但是本文介绍的所有功能均基于以上假设**,当然这些特殊设置在2.0计算框架完全上线后就可以省略了。

1.0.2 TabelStore基本概念以及网络连通性

如果对于TableStore不熟悉或者对于整个KV table的概念比较陌生同学,可以通过TableStore的文档来先了解一些基本概念(比如主键,分区键,属性列等),这里的讨论不对这些基本概念做深入的解释和探讨。 同时对于MaxCompute非结构化框架的整体介绍可以参见之前在MaxCompute上处理存储在OSS上面的非结构化数据的介绍文章,包括External Table, StorageHandler的概念以及SERDEPROPERTIES的使用等。

MaxCompute与TableStore是两个独立的大数据计算以及大数据存储服务,所以两者之间的网络必须保证连通性。 对于MaxCompute公共云服务访问TableStore存储,推荐使用TableStore**私网**地址,例如tablestore://odps-ots-dev.cn-shanghai.ots-internal.aliyuncs.com

1.1 使用STS/RAM的方式访问TableStore数据

需要首先指出的是,MaxCompute计算服务要访问TableStore数据需要有一个安全的授权通道。 在这个问题上,MaxCompute结合了阿里云的访问控制服务(RAM)和令牌服务(STS)来实现对数据的安全反问:

首先需要在RAM中授权MaxCompute访问OSS的权限。登录RAM控制台,创建角色AliyunODPSDefaultRole,并将策略内容设置为:

{
  "Statement": [
    {
      "Action": "sts:AssumeRole",
      "Effect": "Allow",
      "Principal": {
        "Service": [
          "odps.aliyuncs.com"
        ]
      }
    }
  ],
  "Version": "1"
}

然后编辑该角色的授权策略,将权限AliyunODPSRolePolicy授权给该角色。

如果觉得这些步骤太麻烦,还可以登录阿里云账号点击此处完成一键授权

1.2 创建External Table 关联MaxCompute与TableStore

处理OSS数据的使用方法类似,MaxCompute通过EXTERNAL TABLE的方式来对接TableStore的数据:用户通过一个CREATE EXTERNAL TABLE的DDL语句,把对TableStore表数据的描述引入到MaxCompute的meta系统内部后,即可如同使用一个普通TABLE一样来实现对TableStore数据的处理。 这里先提供一个最简单的使用范例,并且通过该范例来讨论ODPS对接TableStore的一些概念和实现。


DROP TABLE IF EXISTS ots_table_external;

CREATE EXTERNAL TABLE IF NOT EXISTS ots_table_external
(
odps_orderkey bigint,
odps_orderdate string,
odps_custkey bigint,
odps_orderstatus string,
odps_totalprice double
)
STORED BY 'com.aliyun.odps.TableStoreStorageHandler' -- (1)
WITH SERDEPROPERTIES ( -- (2)
'tablestore.columns.mapping'=':o_orderkey, :o_orderdate, o_custkey, o_orderstatus,o_totalprice', -- (3)
'tablestore.table.name'='ots_tpch_orders' -- (4)
)
LOCATION 'tablestore://odps-ots-dev.cn-shanghai.ots-internal.aliyuncs.com'; -- (5)

这个DDL语句将一个TableStore表映射到了MaxCompute的一个External Table上。 在这个基础上,后继对TableStore数据的操作可以直接通过External Table进行。 这里先对上面这个CREATE EXTERNAL TABLE的DDL语句做一些解释:

  1. com.aliyun.odps.TableStoreStorageHandler 是MaxCompute内置的处理TableStore数据的StorageHandler, 定义了MaxCompute和TableStore的交互,相关逻辑由MaxCompute实现。
  2. SERDEPROPERITES可以理解成提供参数选项的接口,在使用TableStoreStorageHandler时,有两个必须指定的选项,分别是下面介绍的tablestore.columns.mappingtablestore.table.name。 更多的可选选项将在后面其他例子中提及。
  3. tablestore.columns.mapping选项:必需选项,用来描述对需要MaxCompute将访问的TableStore表的列,包括主键和属性列。 这其中以:打头的用来表示TableStore主键,例如这个例子中的:o_orderkey:o_orderdate。 其他的均为属性列。 TableStore支持最少1个,最多4个主键,主键类型为bigintstring,其中第一个主键为分区键。 在指定映射的时候,用户必须提供指定TableStore表的**所有**主键,对于属性列则没有必要全部提供,可以只提供需要通过MaxCompute来访问的属性列。
  4. tablestore.table.name:需要访问的TableStore表名。 如果指定的TableStore表名错误(不存在),则会报错,MaxCompute不会主动去创建TableStore表。
  5. LOCATION clause用来指定TableStore的具体信息,包括instance名字,endpoint等。 值得注意的是这里对TableStore数据的安全访问是建立在前文介绍的RAM/STS授权的前提上的。

1.3 通过External Table访问TableStore数据进行计算

在用上述DDL创建出External Table之后,TableStore的数据就引入到了MaxCompute的生态中,我们现在就可以通过正常的MaxCompute SQL语法来访问TableStore数据了,比如:


SELECT odps_orderkey, odps_orderdate, SUM(odps_totalprice) AS sum_total
FROM ots_table_external
WHERE odps_orderkey > 5000 AND odps_orderkey < 7000 AND odps_orderdate >= '1996-05-03' AND odps_orderdate < '1997-05-01'
GROUP BY odps_orderkey, odps_orderdate
HAVING sum_total> 400000.0;

可以看到,在上面的这个例子,直接使用的就是我们所熟悉的MaxCompute SQL语法,访问TableStore的所有细节由MaxCompute内部处理。 这包括在列名的选择上:可以看到,在这个SQL里面,使用的列名是odps_orderkeyodps_totalprice等,而不是原始TableStore里面的主键名o_orderkey或属性列名o_totalprice了,因为我们在创建External Table的DDL语句里,已经做了对应的mapping。 当然因为具体的mapping是每个用户可以自己控制的,所以如果在创建External Table的时候保留原始的TableStore主键/列名也是可以的。

在底层的实现上,MaxCompute框架针对TableStore数据的存储特点做了各种优化,包括并发读取,SQL语句的filtering操作转义等。 举个例子,有filtering操作(比如上面的WHERE语句)时,MaxCompute会判断filtering key是否为TableStore表格的主键,来决定如何用TableStore的GetRange API来读取最小量数据,而不是无条件读取全量数据读到MaxCompute计算节点再做过滤操作。 当然这些实现的优化用户均无需感知,由MaxCompute计算框架负责来提高高效的实现。

另外如果需要对一份数据做**多次计算**,相较每次从TableStore去远程读数据,一个更高效的办法是先一次性把需要的数据导入到MaxCompute内部成为一个MaxCompute(内部)表,比如:


CREATE TABLE internal_orders AS
SELECT odps_orderkey, odps_orderdate, odps_custkey, odps_totalprice
FROM ots_table_external
WHERE odps_orderkey > 5000 ;

现在internal_orders就是一个我们熟悉的MaxCompute表了,也拥有所有MaxCompute内部表的特性:包括高效的压缩列存储数据格式,完整的内部宏数据以及统计信息等。 同时因为存储在MaxCompute内部,访问速度会比访问外部的TableStore更快,尤其适用于需要进行多次计算的热点数据。

2. 数据从MaxCompute写出到TableStore

打通MaxCompute和TableStore的数据生态,除了将TableStore作为批量数据处理的数据来源以外,一个另外的重要场景是将MaxCompute的数据处理结果输出到TableStore,利用TableStore可实时更新和可单行覆盖等特点,迅速的将离线计算的结果反馈给在线应用。 这种对TableStore的数据输出可以使用MaxCompute SQL的INSERT OVERWRITE来实现。

需要再次强调的是,MaxCompute不会主动创建外部的TableStore表,所以在对TableStore表进行数据输出之前,必须保证该表已经在TableStore上创建过(否则将报错)。 这样的设计是因为TableStore建表的过程可能涉及到CU的设置,计费,数据生命周期等一系列选项,这些必须由数据的所有者来决定: MaxCompute不拥有这些**外部数据**,也无法做出这些选择。

紧接上面的例子,假设我们已经使用上面的DDL语句创建了ots_table_external这个外部表来打通MaxCompute与TableStoreb数据表ots_tpch_orders的链路, 而且我们还有一份存储在在MaxCompute内部有一个名为internal_orders的数据,现在希望对internal_orders中的数据进行一定处理后再写回TableStore上,那么可以直接通过对外部表做**INSERT OVERWITE TABLE**的操作来实现:


INSERT OVERWRITE TABLE ots_table_external
SELECT odps_orderkey, odps_orderdate, odps_custkey, CONCAT(odps_custkey, 'SHIPPED'), CEIL(odps_totalprice)
FROM internal_orders;

在这里对表中的数据做了一些处理,并且把经过处理过的数据重新写回到了TableStore里。 对于TableStore这种KV数据的NoSQL存储介质,从MaxCompute的输出将只影响相对应主键所在的行:在上面这个例子中也就是只影响所有odps_orderkey + odps_orderdate 这两个主键值能对应行上的数据。 而且在这些TabeleStore行上面,也只会去更新在创建External Table (ots_table_external)时指定的属性列,而不会去修改未在External Table里面出现的数据列。 关于MaxCompute外部表和TableStore表的对应关系,下文会更系统的介绍。

3. 技术细节以及高级用法

从本质上来看MaxCompute表是严格结构化的数据表,要求所有的行均遵从严格一致的schema,而TableStore的表中存储的是NoSQL的“半结构化”K-V数据。这些基本数据格式上的区别决定了在两个系统的交互过程中,行为会有一些区别。 同时MaxCompute作为一个分布式计算系统,读写TableStore通过并发执行来实现,这就需要对TableStore的数据有一个切割的机制。 在默认情况下,MaxCompute会提供一个系统认为最合适的处理方法,来实现对TableStore数据的访问和计算,而这些实现也能满足绝大部分用户的需求。 但是与此同时,为了满足一些对系统比较熟悉的高级用户的特殊需求,MaxCompute也提供了更多的可配置选项,这里做一些介绍。

3.1 MaxCompute外表与TableStore数据表的对应关系

MaxCompute外表与TableStore数据表是多对一(N:1)的关系。 也就是说可以有多个MaxCompute外表(External Table)来描述一张TableStore表。 这里的N:1是两个维度上的:

  • 不同的MaxCompute外表可以描述一张TableStore表的不同属性列子集,比如如果在TableStore的一个表有3个主键列,(up to)20个属性列,那么通过MaxComptue的外表,主键必须提供完备,但是属性列则不必,比如可以只提供一个属性列,那么通过MaxCompute外表进行的所有操作,都只会基于主键和所提供的属性列上的数据。

  • 不同的MaxCompute外表可以描述一张TableStore表的不同range,在本文的例子里都是一个外表对应一个TableStore表的全range,但实际使用的时候是可以通过额外选项来指定外表对应的range start和range end的, 这可以做到一个外表只映射一个TableStore表的子range。 这个功能这里不展开介绍,有需求的话可以联系MaxCompute技术团队。

3.2 MaxCompute读取TableStore数据时的并发度

TableStore是一个分布式KV数据存储系统,每个数据表都可能存储在多个后端server上,并且根据分区键进行分区,具体存储上的分区策略由TableStore决定。 目前通过MaxCompute读取TableStore数据,默认的并发度将与TableStore后端的分区数目相同。 唯一的例外是,在采用INTEGER64作为分区键,**且TableStore后端的分区数目大于1时**,MaxCompute会自动对并发度再做调整,在更高的并发度上读取数据。 此外TableStore自身的系统也在不断发展,以后将提供更强大的API接口给MaxCompute来使用,到时候将可以根据后端数据的大小,来准确的做出数据切割。 更准确的控制每个并发MaxCompute worker处理的数据量和计算时间。 这方面将在这些功能实现后再更新来做具体说明。

最后,如果用户对自己存储在TableStore数据有着非常好的了解,比如对于不同key range中的数据量都能做出很好的预估,MaxCompute还提供让用户自己指定并发度的选型:用户的控制甚至可以细化到指定每个worker应该处理哪个range的数据。 有这个需求的用户可以联系MaxCompute技术团队。

3.4 MaxCompute访问TableStore的网络连通性

因为MaxCompute与TableStore是两个分开的云服务,所以在不同的部署集群上的网络连通性有可能影响MaxCompute访问TableStore的数据的可达性。 关于TableStore的节点,实例,服务地址等概念,可以参见TableStore相关介绍

4. 结语:构造大数据生态

随着MaxCompute非结构化数据处理框架的上线,MaxCompute开放了处理外部数据的接口,包括之前介绍的访问OSS数据,以及本文描述的访问TableStore数据。 我们希望借此来实现整个阿里云计算与数据的生态融合: 在不同的项目上,我们已经看到了在MaxCompute上处理OSS上的海量视频,图像等非结构化数据的巨大潜力。 随着TableStore数据支持的加入,期待计算和更多数据的碰撞能打通更多的应用场景,让OSS数据,TableStore数据以及MaxCompute内部存储的数据,能在MaxCompute的核心计算引擎上产生更大的价值。

本文转载自:https://yq.aliyun.com/articles/69314

_夜枫
粉丝 10
博文 506
码字总数 0
作品 0
朝阳
后端工程师
私信 提问
举个栗子:专有云MaxCompute创建TableStore外部表

1、 案例背景 某客户专有云v3环境现场,TableStore(OTS)数据迁移,需要进行数据校验工作,由于迁移工具并未有校验的api接口或者独有的校验工具,所以考虑使用在MaxCompute的上边创建OTS的外...

silencecxq
04/19
0
0
塑云科技:性能突破,基于KafKa+OTS+MaxCompute 完成了一次物联网系统技术重构

塑云科技:性能突破,基于KafKa+OTS+MaxCompute 完成了一次物联网系统技术重构 背景:创业团队,专注于氢能燃料电池生态链的运营支撑,当前主要的业务组成为新能源车整车实时运营监控分析,加...

塑云科技
2018/07/18
0
0
DataX工具迁移DRDS到DRDS使用介绍

DATAX介绍 DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等...

红隐
2018/04/13
0
0
北京云栖大会 Tech Insight 爆场论坛-云数据·大计算:快速搭建互联网在线运营分析平台

阿里巴巴集团首席技术官王坚在《在线》一书中指出“大数据“的叫法应该叫‘在线数据’。‘在线’远比‘大’更能揭示本质。数据不在线,体量再大,价值也有限。数据在线,即数据实时更新、数据...

小二辛苑
2017/12/19
0
0
基于Tablestore Tunnel的数据复制实战

前言 数据复制主要指通过互联的网络在多台机器上保存相同数据的副本,通过数据复制方案,人们通常希望达到以下目的:1)使数据在地理位置上更接近用户,进而降低访问延迟;2)当部分组件出现...

琸然
06/28
0
0

没有更多内容

加载失败,请刷新页面

加载更多

面试官问:平时碰到系统CPU飙高和频繁GC,你会怎么排查?

处理过线上问题的同学基本上都会遇到系统突然运行缓慢,CPU 100%,以及Full GC次数过多的问题。当然,这些问题的最终导致的直观现象就是系统运行缓慢,并且有大量的报警。本文主要针对系统运...

Java高级架构师n
23分钟前
10
0
面向对象编程

1、类和对象 类是对象的蓝图和模板,而对象是实例;即对象是具体的实例,类是一个抽象的模板 当我们把一大堆拥有共同特征的对象的静态特征(属性)和动态特征(行为)都抽取出来后,就可以定...

huijue
今天
14
0
redis异常解决 :idea启动本地redis出现 jedis.exceptions.JedisDataException: NOAUTH Authentication required

第一次安装在本地redis服务,试试跑项目,结果却出现nested exception is redis.clients.jedis.exceptions.JedisDataException: NOAUTH Authentication required错误,真是让人头疼 先检查一...

青慕
今天
27
0
Spring 之 IoC 源码分析 (基于注解方式)

一、 IoC 理论 IoC 全称为 Inversion of Control,翻译为 “控制反转”,它还有一个别名为 DI(Dependency Injection),即依赖注入。 二、IoC方式 Spring为IoC提供了2种方式,一种是基于xml...

星爵22
今天
31
0
Docker安装PostgresSql

Docker安装PostgresSql 拉取docker镜像 # docker pull postgres:10.1010.10: Pulling from library/postgres9fc222b64b0a: Pull complete 38296355136d: Pull complete 2809e135bbdb: Pu......

Tree
今天
16
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部