文档章节

破除大数据坚冰 PaaS平台有妙招

灵玖lingjoin
 灵玖lingjoin
发布于 2014/03/19 16:57
字数 2772
阅读 9
收藏 0

  PaaS提供了基础架构,软件开发者可以在这个基础架构之上建设新的应用,或者扩展已有的应用。Salesforce的Force.com、Google的App Engine和微软的Azure(微软云计算平台)都采用了PaaS的模式。这些平台允许公司创建个性化的应用,也允许独立软件厂商或者其他的第三方机构针对垂直细分行业创建新的解决方案。




  PaaS为部署和运行应用系统提供所需的基础设施资源和一个月基础设施,应用开发人员无需关心应用的底层硬件和应用基础设施,并且可以根据应用需求动态扩展应用系统所需的资源。完整的PaaS平台应提供如下功能:




  第一,分布式运行环境。




  第二,多种类型的数据存储,动态资源伸缩。




  第三,应用全生命周期支持,提供第三方接入服务。




  第四,提供开发SDK、IDE等加快应用的开发、测试和部署。




  第五,监控、管理和计量:提供资源池、应用系统的管理和监控功能、精确计量应用锁消耗的计算资源。




  第六,提供应用托管、服务托管、应用服务器托管、虚拟机托管。




  第七,提供连通性服务、整合服务、消息服务和流程服务等用于构建SOA架构风格的复合应用。




  PaaS的难点与PaaS的特性密不可分,有多租户支持、弹性伸缩、统一运维、系统自愈、细粒度资源计量、SLA保障等。这些基本也都是云计算的基本特点。多租户弹性是PaaS区别于传统应用平台的本质特性,其实现方式也是用来区别各类PaaS的最重要标志之一,是PaaS的最核心特性之一。




  PaaS的一个重要应用领域是大数据处理,而互联网企业每天都在存储海量的非结构化数据和结构化数据,这些数据需要在短时间内被处理,否则就会让用户体验处于崩溃的边缘。以前,数据规模很大,但是结构化数据居多,随着社交网络和移动互联网应用的兴起,非结构化数据在采集数据的占比越来越大,海量数据逐渐演变为以数据多样性为主要特征之一的大数据。




  PaaS层对数据库的新要求




  所谓大数据,即数据集的尺寸大、数据生成速度快、结构化和非结构化数据类型多、数据集蕴含的价值大。云计算的PaaS层对数据库技术提出了新的要求,主要表现在以下几个方面:




  第一,海量数据处理。对类似搜索引擎和电信运营商级的经营分析系统这样大型的应用而言,需要能够处理PB级的数据,同时应对百万级的流量。




  第二,大规模集群管理。分布式应用可以更加简单地部署、应用和管理。




  第三,低延迟读写速度。快速的响应速度能够极大地提高用户的满意度。




  第四,建设及运营成本。云计算应用的基本要求是希望在硬件成本、软件成本以及人力成本方面都有大幅度的降低。




  近年来,大数据所蕴含的巨大价值被人们所认识并开发,Google、Facebook、Twitter等基于大数据分析的互联网应用在业界取得巨大成功,分布式处理系统Hadoop在构建大数据处理平台领域应用普及,已经成为事实标准。然而,当前的Hadoop系统主要基于MapReduce时应用的发展,比如实时搜索、实时交易系统、实时欺骗分析、实时监控、社交网络等,都需要一个高度可扩展的流式计算解决方案。因此,2011年以来,流式成为业界应用的热点技术,涌现了众多成功的应用和开源系统实现,如yahoo!的S4系统、Twitter采用的Storm系统。




  同时,为加快分布式处理系统的响应速度,2012年以来,内存计算成为业界应用的热点技术。内存计算是指CPU直接从内存,而不是硬盘上读取数据,并进行计算、分析,是对传统的分布式数据处理方式的一种加速。内存计算作为未来数据计算和管理的支撑技术之一,在商务智能分析方面拥有巨大的应用潜力。




  开源社区推出Memcached,它是一个开源的高性能、分布式的内存对象缓存系统,用于动态Web应用以减轻数据库负载。当前,Memcached等基于分布式内存的数据存储系统在Facebook等企业已经取得成功应用。




  在大数据的存储方面,弱化一致性的全球分布式数据库系统和突出性能的NoSQL数据库活动量广泛应用。




  为了保障数据库操作的完整性和安全性,传统数据库理论将用户改变数据库状态的一组操作定义为一个事务,并规定一个支持数据库事务的数据库关系系统(DataBase Mangement System,DBMS)必须保障一个事务操作的四项属性:原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)、持续性(Durability)。




  这四大属性简称ACID属性,与英文中“酸”的单词字母相同。然而,当今的大型互联网公司,如Amazon、Google和Yahoo!都为全世界的用户提供服务,面对如此大规模的用户群体和用户地理分布范围,单一的集中式数据库架构是不现实的。因此,更好地响应世界各地用户的访问请求,Amazon等公司多采用全球地理分布的多数据库联邦架构,并将数据在多个数据库之间冗余备份,这极大地提升了用户体验。




  然而,2000年,美国加州伯克利大学计算机学院的Brewer教授提出了著名的CAP理论,明确指出在数据库系统中,数据的一致性(Consistency)、可用性(Availability)和数据分区容错(Partition Tolerance)属性不能同时满足,最多只能满足两项属性。CAP理论在2002年被Seth Gilbert和Nancy Lynch等人通过严谨的计算理论方法证明是正确的。




  对于Amazon和Yahoo!所采用的分布式数据库系统而言,数据分区容错属性是天然属性,因而数据被分区存储而不可预计的网络故障必然会导致数据分区错误。因此,依据CAP理论,对于地理分布的数据库架构中,如果需要提供高可用性(Availability),就必须放松对数据库事务的一致性(Consistency)。




  因此,学术界提出了对于地理分布的数据库架构的事务支持的新要求,即需要满足三大属性:基本可用性(Basically Available),即在任何情况下基本功能可用;柔性事物(Soft state),即允许冗余的数据状态在某段时间内不同步;最终一致性(Eventual Consistency),即保障冗余的数据状态能够最终同步。




  上述三大属性简称BASE,与英文中“碱”的单词字母相同。显而易见,BASE属性与ACID属性是相反的。不同于ACID模型,BASE模型通过牺牲强一致性,获得基本可用性和柔性状态保障了系统的可用性和可靠性,并能够使得数据的副本之间最终达成一致。BASE模型在早期的地理分布式数据库系统中取得成功应用,典型系统如Amazon的Dynamo和Yahoo!的PNUTS。




  NoSQL在大数据处理中取得成功




  不仅如此,CAP理论、BASE模型也为当前互联网领域非常流行的NoSQL(Not Only SQL)数据库系统奠定了理论基础,而NoSQL数据库系统在新兴互联网企业如Facebook、Twitter等取得成功应用。




  SQL(Structured Query Language)是面向关系型数据库的结构化基础语言,针对关系数据的功能设计。NoSQL面向非结构化数据存储,其核心概念并不在数据如何被查询,而是数据如何被存储,即非关系数据库。




  但是NoSQL数据库也可包含面向非结构化数据的查询语言,如开源NoSQL数据库系统Couchbase和SQLite使用的非结构数据查询语言UnQL(Unstructured Data Query Language)。NoSQL数据库主要面向简单键值对(Key-Value)数据格式,采用列式存储方式。另一方面,其放松了数据库事务的严格一致性要求,因而能够取得很好的访问性能和近乎线性的扩展性,从而在大数据存储领域取得了巨大成功。




  NoSQL的兴起也得益于开源社区的广泛支持,当前应用广泛的NoSQL数据库不仅有Hadoop系统集成的Hbase数据库,还有满足极高读写性能需求的Key-Value数据库,如Redis等;满足海量存储需求和访问的面向文档的数据库:如MongoDB、CouchDB等;满足高可扩展性和可用性的面向分布式计算的数据库:Cassandra等。




  开源软件的普及推动技术普及和产业标准成熟,产业巨大需求也促使传统数据库厂商提供NoSQL数据库产品和解决方案。




  2012年12月,作为其云计算软件基础设施的一部分,Oracle发布了NoSQL数据库产品Oracle NoSQL Database 2.0,标志着NoSQL数据库已经成为大数据时代的数据处理的主流解决方案之一。




  在信息技术融合应用的新时代,大数据就是像黄金一样的新型经济资产、像石油一样的重要战略资源。然而,大数据对处理和存储能力的无限需求使得传统的IT架构和技术力不从心,唯有云计算才能支撑上述需求,才能支撑面向大数据的价值发现,从而实现跨越式发展。




  PaaS的核心价值是让应用及业务更加敏捷、IT服务水平更高、并实现更高的资源利用率。在云产业链中,如同传统的中间件所起的作用一样,PaaS也将会是产业链的制高点。无论是在大型企业私有云中,还是在中小企业所关心的应用云中,PaaS都将起到核心的作用。




© 著作权归作者所有

灵玖lingjoin
粉丝 85
博文 2884
码字总数 4069557
作品 0
东城
私信 提问
专为SaaS而生的PaaS平台!

5月15日,轻云蒜瓣公司——北京凯特伟业CEO云凤程先生接受第一财经记者独家专访,对于轻云蒜瓣产品以及JEPaaS平台都作了详细介绍,同时,也对未来软件行业发展作了前瞻。 软件行业发展已日趋...

JEPLUS
05/28
578
0
OSC 大咖说 | 专访 MoPaaS 创始人、CEO 鲁为民: PaaS 的逆袭:超越 IaaS,承载云计算发展的未来

提及云计算,离不开三个名词:IaaS(基础架构即服务)、SaaS(软件即服务)、PaaS(平台即服务)。 IaaS提供虚拟化的基础计算资源和管理,包括计算、网络和存储能力,特别是它提供云上的虚拟...

花仲马
2016/05/31
2.5K
3
2017之夏,PaaS“井喷”前兆

注:原文发表于《中国云报》,MoPaaS对正文略作节选。 都说PaaS是云计算的制高点 可能这座山峰确实难爬 所以在中国市场上 专注PaaS解决方案的独立厂商屈指可数 MoPaaS是其中具有代表性的一家...

mopaas
2017/08/24
373
0
【 互联网大时代来临 云计算将普及】

现代科技高速发展,一方面给人们生活带来了便利;另一方面也给人们工作、生活冲击越来越大。接下来的5G、物联网、人工智能、大数据、云计算等高科技来袭,会进一步颠覆人们传统的生活方式、工...

雕123
02/19
0
0
数人云|PaaS Innovation 2017开幕在即,共襄技术演进与商业碰撞盛宴

PaaS Innovation 2017开幕在即 多项重磅发布11月16日,小数在歌华大厦等你 机遇推动变革 云者,变换无极,十余年间,风头愈劲。PaaS作为云计算领域新“变量”,伴随容器、Mesos、Kubernetes、...

数人云
2017/11/01
30
0

没有更多内容

加载失败,请刷新页面

加载更多

db.properties

jdbc.driver=com.mysql.cj.jdbc.Driverjdbc.url=jdbc:mysql://localhost:3306/mybatis?serverTimezone=GMT%2B8&characterEncoding=utf8&useSSL=falsejdbc.username=rootjdbc.pas......

行者终成事
25分钟前
3
0
从 Storm 到 Flink,汽车之家基于 Flink 的实时 SQL 平台设计思路与实践

在 2019 年之前,之家的大部分实时业务都是运行在 Storm 之上的。Storm 作为早期主流的实时计算引擎,凭借简单的 Spout 和 Bolt 编程模型以及集群本身的稳定性,俘获了大批用户。下图是实时计...

阿里云官方博客
26分钟前
4
0
网络安全-Day04

2.1.1 什么是SQL注入 2.1.2 注入分类 2.1.3 MySQL手工注入 2.1.4 sqlmap使用 2.1.5 总结 什么是SQL注入 SQL注入漏洞原理 什么是SQL 结构化查询语言(Structured Query Language),是一种特殊目...

Jerry1101
26分钟前
3
0
docker容器内安装yum,vim等命令,以及配置ls指令

使用国内镜像 mv /etc/apt/sources.list /etc/apt/sources.list.bakecho "deb http://mirrors.163.com/debian/ jessie main non-free contrib" >> /etc/apt/sources.listecho "deb http://......

长恭
26分钟前
3
0
超详细的MySQL8.0.17版本安装教程

下载MySQL MySQL的官网地址:https://www.mysql.com/。 如下图所示: 然后点击DOWNLOADS ==> Community,选择MySQL Community Server。如图所示: 滑到页面的最下面,找到Recommended Downl...

彩色泡泡糖
30分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部