文档章节

大数据时代需要人才

sittc7
 sittc7
发布于 2014/09/23 11:22
字数 4321
阅读 22
收藏 0

 

 

大数据处理的最好工具

大数据是一个含义广泛的术语,是指数据集,如此庞大而复杂的,他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集自各种各样的来源:传感器、气候信息、公开的信息、如杂志、报纸、文章。大数据产生的其他例子包括购买交易记录、网络日志、病历、事监控、视频和图像档案、及大型电子商务。大数据分析是在研究大量的数据的过程中寻找模式,相关性和其他有用的信息,可以帮助企业更好地适应变化,并做出更明智的决策。

Hadoop

Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的,因为它假设计算元素和存储会失败,因此它维护多个工作数据副本,确保能够针对失败的节点重新分布处理。Hadoop 是高效的,因为它以并行的方式工作,通过并行处理加快处理速度。Hadoop 还是可伸缩的,能够处理 PB 级数据。此外,Hadoop 依赖于社区服务器,因此它的成本比较低,任何人都可以使用。

Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点:

1.高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

2.高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的,这些集簇可以方便地扩展到数以千计的节点中。

3.高效性。Hadoop能够在节点之间动态地移动数据,并保证各个节点的动态平衡,因此处理速度非常快。

4.高容错性。Hadoop能够自动保存数据的多个副本,并且能够自动将失败的任务重新分配。

Hadoop带有用 Java 语言编写的框架,因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写,比如 C++

HPCC

HPCCHigh Performance Computing and Communications(高性能计算与通信)的缩写。1993年,由美国科学、工程、技术联邦协调理事会向国会提交了重大挑战项目:高性能计算与 通信的报告,也就是被称为HPCC计划的报告,即美国总统科学战略项目,其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国 实施信息高速公路而上实施的计划,该计划的实施将耗资百亿美元,其主要目标要达到:开发可扩展的计算系统及相关软件,以支持太位级网络传输性能,开发千兆比特网络技术,扩展研究和教育机构及网络连接能力。

该项目主要由五部分组成:

1.高性能计算机系统(HPCS),内容包括今后几代计算机系统的研究、系统设计工具、先进的典型系统及原有系统的评价等;

2.先进软件技术与算法(ASTA),内容有巨大挑战问题的软件支撑、新算法设计、软件分支与工具、计算计算及高性能计算研究中心等;

3.国家科研与教育网格(NREN),内容有中接站及10亿位级传输的研究与开发;

4.基本研究与人类资源(BRHR),内容有基础研究、培训、教育及课程教材,被设计通过奖励调查者-开始的,长期的调查在可升级的高性能计算中来增加创新意识流,通过提高教育和高性能的计算训练和通信来加大熟练的和训练有素的人员的联营,和来提供必需的基础架构来支 持这些调查和研究活动;

5.信息基础结构技术和应用(IITA ),目的在于保证美国在先进信息技术开发方面的领先地位。

Storm

Storm是自由的开源软件,一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流,用于处理Hadoop的批量数据。Storm很简单,支持许多种编程语言,使用起来非常有趣。StormTwitter开源而来,其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、 Admaster等等。

Storm有许多应用领域:实时分析、在线机器学习、不停顿的计算、分布式RPC(远过程调用协议,一种通过网络从远程计算机程序上请求服务) ETL(Extraction-Transformation-Loading的缩写,即数据抽取、转换和加载)等等。Storm的处理速度惊人:经测 试,每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错,很容易设置和操作。

Apache Drill

为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法,Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel。据Hadoop厂商MapR Technologies公司产品经理Tomer Shiran介绍,“Drill”已经作为Apache孵化器项目来运作,将面向全球软件工程师持续推广。该项目将会创建出开源版本的谷歌Dremel Hadoop工具(谷歌使用该工具来为Hadoop数据分析工具的互联网应用提速)。而“Drill”将有助于Hadoop用户实现更快查询海量数据集的目的。

“Drill”项目其实也是从谷歌的Dremel项目中获得灵感:该项目帮助谷歌实现海量数据集的分析处理,包括分析抓取Web文档、跟踪安装在Android Market上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。通过开发“Drill”Apache开源项目,组织机构将有望建立Drill所属的API接口和灵活强大的体系架构,从而帮助支持广泛的数据源、数据格式和查询语言。

RapidMiner

RapidMiner是世界领先的数据挖掘解决方案,在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛,包括各种数据艺术,能简化数据挖掘过程的设计和评价。

功能和特点:

·     免费提供数据挖掘技术和库

·     100%Java代码(可运行在操作系统)

·     数据挖掘过程简单,强大和直观

·     内部XML保证了标准化的格式来表示交换数据挖掘过程

·     可以用简单脚本语言自动进行大规模进程

·     多层次的数据视图,确保有效和透明的数据

·     图形用户界面的互动原型

·     命令行(批处理模式)自动大规模应用

·     Java API(应用编程接口)

·     简单的插件和推广机制

·     强大的可视化引擎,许多尖端的高维数据的可视化建模

·     400多个数据挖掘运营商支持

耶鲁大学已成功地应用在许多不同的应用领域,包括文本挖掘,多媒体挖掘,功能设计,数据流挖掘,集成开发的方法和分布式数据挖掘。

Pentaho BI

Pentaho BI 平台不同于传统的BI 产品,它是一个以流程为中心的,面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来,方便商务智能应用的开发。它的出现,使得一系列的面向商务智能的独立产品如JfreeQuartz等等,能够集成在一起,构成一项项复杂的、完整的商务智能解决方案。

Pentaho BI 平台,Pentaho Open BI 套件的核心架构和基础,是以流程为中心的,因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI 平台上执行的商业智能流程。流程可以很容易的被定制,也可以添加新的流程。BI 平台包含组件和报表,用以分析这些流程的性能。目前,Pentaho的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过 J2EEWebServiceSOAPHTTPJavaJavaScriptPortals等技术集成到Pentaho平台中来。 Pentaho的发行,主要以Pentaho SDK的形式进行。

Pentaho SDK共包含五个部分:Pentaho平台、Pentaho示例数据库、可独立运行的Pentaho平台、Pentaho解决方案示例和一个预先配制好的 Pentaho网络服务器。其中Pentaho平台是Pentaho平台最主要的部分,囊括了Pentaho平台源代码的主体;Pentaho数据库为 Pentaho平台的正常运行提供的数据服务,包括配置信息、Solution相关的信息等等,对于Pentaho平台来说它不是必须的,通过配置是可以用其它数据库服务取代的;可独立运行的Pentaho平台是Pentaho平台的独立运行模式的示例,它演示了如何使Pentaho平台在没有应用服务器支持的情况下独立运行;Pentaho解决方案示例是一个Eclipse工程,用来演示如何为Pentaho平台开发相关的商业智能解决方案。

Pentaho BI 平台构建于服务器,引擎和组件的基础之上。这些提供了系统的J2EE 服务器,安全,portal,工作流,规则引擎,图表,协作,内容管理,数据集成,分析和建模功能。这些组件的大部分是基于标准的,可使用其他产品替换之。原文链接:http://www.thebigdata.cn/JiShuBoKe/9164.html

 

人才需求

从大数据的定义中就可以看出来,大数据营销首先面临的是技术难题。但实际情况是,真正启动大数据营销,你面临的不仅仅是技术和工具问题,更重要的是要转变组织架构和思维,来真正地挖掘那座数据金矿。

1. 确定你的目标和标准。

把大数据这个概念扔掉,而是非常专注在你的衡量标准上。你必须弄清楚你到底想从大数据中得到什么,否则你就要花费大量的时间来分析数据。你需要的是,能够帮助解决问题的行为洞察,而不是试图研究每一个能够得到的信息。比如:分析你的消费者线上分享趋势,对你的业务有帮助吗?你的品牌体积是最重要的参数吗?

再强调一遍,大数据的资源太丰富,如果你没有明确的目标,你就算没有走入迷途至少会觉得非常迷茫。因此,首先,要定义你的价值数据标准,之后再使用那些能够解决特定领域问题的工具。

——Tim Devane,技术公司Bit.ly业务发展和销售总监

2. 建设技术人才。

拥抱大数据之前,首先团队要到位。分析技能非常重要。你的营销团队要能够非常自如地玩转数据。很多人认为社交媒体营销人是个十分有趣的工作,其实只是个艰苦的工作。它非常注重数据、衡量标准和数据可视化等问题。要成功,首先要确保你的员工已经接受过技能培训,了解如何最大化利用大数据的潜力。当然回报也是非常丰厚的。

——Perry Drake,纽约大学助理教授

第一步是要将原先创意人员和统计人员之间的藩篱打破,让他们以同样的节奏,就同一个问题一起合作,融合为一支队伍,彼此学习。然而,研究公司Gartner曾经提到过,使用大数据的必备能力,是和那些信息技术行业中所需要的能力不同的,它更偏重框架的整合能力、提出正确问题和让公司所有部分一起工作的能力。很明显,你既需要统计人员,也需要创意人员,大数据是他们共有的天地。

——Marshall SponderSocial Media AnalyticsEffective Tools for BuildingInterpretingand Using Metrics一书作者

3. 解决碎片化问题。

企业启动大数据营销一个最重要的挑战,是数据的碎片化。许多公司组织中,数据都散落在互不连通的数据库中,而且相应的数据技术也都存在于不同部门中,如何将这些数据库打通,并且实现技术共享,才是能够最大化大数据价值的关键。

——Graham Oakes,技术咨询师、博客作者

4. 展现你的价值。

你只有能过展示数据带来的价值你才能够得到资源。营销者需要利用衡量标准来建立他们的可信度。没有这个,营销将会被看做一个花钱中心——但是当CMO们可以利用分析来将营销动作和硬性标准如年利润联系起来,他们就能建立自己的威信和赢得尊重,并在预算中占得一席之地。

——Jon Miller,金融服务公司Marketo营销副总裁

 

人才培养

我们应该停止大肆宣传大数据技术人才的缺口,是时候开始讨论人才培训方案了。

专家是培训出来的,不是天生的。你需要回答的一个问题是,你是否需要专业技术知识或数据专业知识。专业技术知识能让SQL数据库或Hadoop集群投入使用。数据的专业知识可以使我们利用数据挖掘、文本挖掘、预测和机器学习技术。无论哪种方式,我们首先应该假设的是从现有的员工培育人才,是最首要也是最好的选择。

2012年的大数据和分析人事调查显示,大多数企业计划采取一个再培训、招聘和外包的组合方案,以填补人才缺口。但是,得到薪金上涨的批准、与新招聘的人一起工作、面试候选人,这些都是一个耗时的过程。更重要的是,专业人士大概有良好的能力,来处理你的业务、你的数据源以及你目前所做的分析,最有可能的是,分析得出你所希望从大数据和先进的分析得到的东西。

如果你缺乏的是技术专业知识,那么相信你现有的数据库管理员、数据库开发人员和数据仓库的技术人员,他们可以学习新的技巧。比如,从传统的数据库转移到大规模并行处理(MPP)数据库平台,对数据库管理人员(DBA)来说并不是一个巨大的飞跃,优秀的人才将很快适应这个挑战。

大数据主要是以其数据的种类多样以及巨大的容量见长,它主要在如Apache HadoopNoSQL数据库这样的新平台运行。Hadoop软件、支持和培训服务提供商MapR的首席执行官约翰·施罗德指出,在短短的五个月内,很多公司并没有把Hadoop集群投入生产的经验。他说:“现在我们将面临一个人才争夺战,因为手头的项目比工作人员还多,但同时我们也将看到,与2010年和2011年相比,Hadoop培训的人数也在大幅增长。”

MAPR和它的竞争对手Cloudera公司和Hortonworks,提供了大量的培训课程。在MAPR的这里,他们通常提供两到三日的MAPR学习视频,其在线和课堂课程主题包括群集管理的基础、HivePig动手操作、MapReduce培训以及HBase编程。Cloudera大学在全球范围内提供在线和课堂课程。

这些培训方案的前提假设是,培训人员属于能干的系统管理员和开发人员,可以迅速学习新技术,这些新技术与SQL和关系型数据库完全不同。在更先进的以数据分析为导向的课程中,如“数据科学的入门——构建推荐系统”(Cloudera大学提供),其目标受众是“拥有基本的Hadoop的知识和水平的软件工程师、数据分析师和统计人员。

© 著作权归作者所有

上一篇: Hadoop版本说明
sittc7
粉丝 0
博文 9
码字总数 13981
作品 0
长宁
个人站长
私信 提问
快速获取35万年薪,在大数据开发领域并非天方夜谭

放眼整个人才招聘市场,想要获取高薪,更多人会选择进入IT行业成为一个码农,虽然很累但绝对能够获取高薪。而想要在IT行业快速获得35万年薪似乎有点天方夜谭,但在如今的DT时代,作为一名大数...

hainiuxy
2018/07/03
0
0
大数据时代,这些大数据人才最吃香-加米谷

大数据有什么用 了解用户特征 通过大数据,浏览器掌握你的隐私,微信知道你的社交圈子,淘宝了解你的购物习惯,移动电信联通三大运营商知道你的通话记录和上网记录…… 给企业和商业带来巨大...

加米谷大数据
2018/05/25
6
0
从小白到月薪上万,一份完整的大数据路线分析出自我成长书单

大数据原理与实践 大数据分三大部分,包括:大数据基础、技术原理和创新实践。 大数据基础部分主要介绍大数据的基本概念、技术架构和大数据的应用场景; 第二部分大数据技术原理主要介绍大数...

董黎明
2019/02/20
22
0
大数据时代的到来,为我们提供了哪些便利之处?

以前还没有进入大数据时,社会发展相对比较慢,比如工作生活,交通出行,互联网并没有那么的便利,大家都是各顾各的,进入了大数据时代,大家开始相互分享资源,抱团取暖。下面来说说大数据时...

游客rt2gxfkwkuqsm
2019/04/16
0
0
大数据分析师和大数据工程师职位,孰轻孰重(个人角度)

在互联网盛行的今天,能够预测未来需要依靠更多数据支持,从数据的趋势和分析中,就可以把未来的发展动向掌握得淋漓尽致。在大数据背景之下,精通大数据的专业人才将成为企业最重要的业务角色...

风火9527
2018/08/11
0
0

没有更多内容

加载失败,请刷新页面

加载更多

Raspberry Pi 树莓派 搭建java8环境

更新软件源 apt-get upgradeapt-get update 移除自带的openjdk(如果有的话) apt-get remove openjdk* 安装oracle jdk,地址: https://www.oracle.com/technetwork/java/javase/downl......

ChangeZ
30分钟前
79
0
树莓派3b 安装openwrt

https://downloads.openwrt.org/releases/19.07.0/targets/brcm2708/bcm2710/openwrt-19.07.0-brcm2708-bcm2710-rpi-3-squashfs-factory.img.gz 插入并启动树莓派3B+,顺便接上键盘和显示器,......

FalconChen
49分钟前
71
0
OSChina 周一乱弹 —— 有些运动也常用到膝盖

Osc乱弹歌单(2020)请戳(这里) 【今日歌曲】 @薛定谔的兄弟 :分享洛神有语创建的歌单「我喜欢的音乐」: 《火宵の月・テーマ~ピアノソロ》- 中村由利子 手机党少年们想听歌,请使劲儿戳(...

小小编辑
今天
109
0
Redis持久化机制

RDB存储 RDB方式的持久化是通过快照完成的,当符合一定条件时Redis会自动将内存中的所有数据生成一份副本并存储在硬盘上。 Redis会在一下集中情况下对数据进行快照: 根据配置规则进行快照;...

XuePeng77
今天
81
0
float精度计算测试

package mainimport ("fmt""github.com/go-ozzo/ozzo-dbx"_ "github.com/go-sql-driver/mysql")type DecimalDemo struct {Id intAmount float64}func main() {db, _......

醉人的笑容你有没有
今天
127
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部