MapReduce简介及优缺点

10/24 13:43
阅读数 57

1、什么是MapReduce?

MapReduce是一种大规模数据处理的编程模型,用于大规模数据集的并行运算。Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个hadoop集群上。并以一种可靠的,具有容错能力的方式并行地处理上TB级别的海量数据集

2、为什么要使用MapReduce?

海量数据在单机上处理因为硬件资源限制,无法胜任而一旦将单机版程序扩展到集群来分布式运行,将极大增加程序的复杂度和开发难度引入mapreduce框架后,开发人员可以将绝大部分工作集中在业务逻辑的开发上,而将分布式计算中的复杂性交由框架来处理。
mapreduce分布式方案考虑的问题

  • 运算逻辑要不要先分后合?
  • 程序如何分配运算任务(切片)?
  • 两阶段的程序如何启动?如何协调?
  • 整个程序运行过程中的监控?容错?重试?
    分布式方案需要考虑很多问题,但是我们可以将分布式程序中的公共功能封装成框架,让开发人员将精力集中于业务逻辑上。而mapreduce就是这样一个分布式程序的通用框架。

3、MapReduce的优点

  • 模型简单,易于编程
    它简单的实现一些接口,就可以完成一个分布式程序,这个程序可以分布到大量的廉价的pc机器上运行。也就是说你写一个分布式程序,跟写一个简单的串行程序是一模一样的。就是因为这个特性使的Mapreduce编程变得非常流行。
  • 良好的扩展性
    项目当你的计算资源得不到满足的时候,你可以通过简单的通过增加机器来扩展它的计算能力,
  • 灵活
    结构化和非结构化数据
  • 并行处理
    编程模型天然支持并行处理,适合PB级以上海量数据的离线处理
  • 容错能力强
    Mapreduce的设计初衷就是使程序能够部署在廉价的pc机器上,这就要求它具有很高的容错性。比如一个机器挂了,它可以把上面的计算任务转移到另一个节点上运行,不至于这个任务运行失败,而且这个过程不需要人工参与,而完全是由hadoop内部完成的。

4、MapReduce的缺点

  • 不擅长实时计算
    Mapreduce无法做到像Mysql那样做到毫秒或者秒级的返回结果

  • 不擅长流式计算
    流式计算的输入数据是动态的,而Mapreduce的输入数据集是静态的,不能流态变化。这是Mapreduce自身的设计特点决定了数据源必须是静态的。

  • 不擅长DAG(有向图)计算
    多个应用程序存在依赖关系,后一个应用程序的输入为前一个应用程序的输出,在这种情况下,Mapreduce并不是不能做,而是使用后每个Mapreduce作业的输出结果都会写入到磁盘,会造成大量的磁盘IO,导致性能非常低下。

    参考:Mapreduce的优缺点

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部