文档章节

Hadoop 学习总结之一:HDFS简介

IT追寻者
 IT追寻者
发布于 2014/06/05 10:26
字数 1933
阅读 24
收藏 0

一、HDFS的基本概念

1.1、数据块(block)

  • HDFS(Hadoop Distributed File System)默认的最基本的存储单位是64M的数据块。

  • 和普通文件系统相同的是,HDFS中的文件是被分成64M一块的数据块存储的。

  • 不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间。

1.2、元数据节点(Namenode)和数据节点(datanode)

  • 元数据节点用来管理文件系统的命名空间

    • 其将所有的文件和文件夹的元数据保存在一个文件系统树中。

    • 这些信息也会在硬盘上保存成以下文件:命名空间镜像(namespace image)及修改日志(edit log)

    • 其还保存了一个文件包括哪些数据块,分布在哪些数据节点上。然而这些信息并不存储在硬盘上,而是在系统启动的时候从数据节点收集而成的。

  • 数据节点是文件系统中真正存储数据的地方。

    • 客户端(client)或者元数据信息(namenode)可以向数据节点请求写入或者读出数据块。

    • 其周期性的向元数据节点回报其存储的数据块信息。

  • 从元数据节点(secondary namenode)

    • 从元数据节点并不是元数据节点出现问题时候的备用节点,它和元数据节点负责不同的事情。

    • 其主要功能就是周期性将元数据节点的命名空间镜像文件和修改日志合并,以防日志文件过大。这点在下面会相信叙述。

    • 合并过后的命名空间镜像文件也在从元数据节点保存了一份,以防元数据节点失败的时候,可以恢复。

1.2.1、元数据节点文件夹结构

image

  • VERSION文件是java properties文件,保存了HDFS的版本号。

    • layoutVersion是一个负整数,保存了HDFS的持续化在硬盘上的数据结构的格式版本号。

    • namespaceID是文件系统的唯一标识符,是在文件系统初次格式化时生成的。

    • cTime此处为0

    • storageType表示此文件夹中保存的是元数据节点的数据结构。

namespaceID=1232737062

cTime=0

storageType=NAME_NODE

layoutVersion=-18

1.2.2、文件系统命名空间映像文件及修改日志

  • 当文件系统客户端(client)进行写操作时,首先把它记录在修改日志中(edit log)

  • 元数据节点在内存中保存了文件系统的元数据信息。在记录了修改日志后,元数据节点则修改内存中的数据结构。

  • 每次的写操作成功之前,修改日志都会同步(sync)到文件系统。

  • fsimage文件,也即命名空间映像文件,是内存中的元数据在硬盘上的checkpoint,它是一种序列化的格式,并不能够在硬盘上直接修改。

  • 同数据的机制相似,当元数据节点失败时,则最新checkpoint的元数据信息从fsimage加载到内存中,然后逐一重新执行修改日志中的操作。

  • 从元数据节点就是用来帮助元数据节点将内存中的元数据信息checkpoint到硬盘上的

  • checkpoint的过程如下:

    • 从元数据节点通知元数据节点生成新的日志文件,以后的日志都写到新的日志文件中。

    • 从元数据节点用http get从元数据节点获得fsimage文件及旧的日志文件。

    • 从元数据节点将fsimage文件加载到内存中,并执行日志文件中的操作,然后生成新的fsimage文件。

    • 从元数据节点奖新的fsimage文件用http post传回元数据节点

    • 元数据节点可以将旧的fsimage文件及旧的日志文件,换为新的fsimage文件和新的日志文件(第一步生成的),然后更新fstime文件,写入此次checkpoint的时间。

    • 这样元数据节点中的fsimage文件保存了最新的checkpoint的元数据信息,日志文件也重新开始,不会变的很大了。

hadoop01

1.2.3、从元数据节点的目录结构

image

1.2.4、数据节点的目录结构

image

  • 数据节点的VERSION文件格式如下:

namespaceID=1232737062

storageID=DS-1640411682-127.0.1.1-50010-1254997319480

cTime=0

storageType=DATA_NODE

layoutVersion=-18

  • blk_<id>保存的是HDFS的数据块,其中保存了具体的二进制数据。

  • blk_<id>.meta保存的是数据块的属性信息:版本信息,类型信息,和checksum

  • 当一个目录中的数据块到达一定数量的时候,则创建子文件夹来保存数据块及数据块属性信息。

二、数据流(data flow)

2.1、读文件的过程

  • 客户端(client)用FileSystem的open()函数打开文件

  • DistributedFileSystem用RPC调用元数据节点,得到文件的数据块信息。

  • 对于每一个数据块,元数据节点返回保存数据块的数据节点的地址。

  • DistributedFileSystem返回FSDataInputStream给客户端,用来读取数据。

  • 客户端调用stream的read()函数开始读取数据。

  • DFSInputStream连接保存此文件第一个数据块的最近的数据节点。

  • Data从数据节点读到客户端(client)

  • 当此数据块读取完毕时,DFSInputStream关闭和此数据节点的连接,然后连接此文件下一个数据块的最近的数据节点。

  • 当客户端读取完毕数据的时候,调用FSDataInputStream的close函数。

  • 在读取数据的过程中,如果客户端在与数据节点通信出现错误,则尝试连接包含此数据块的下一个数据节点。

  • 失败的数据节点将被记录,以后不再连接。

image

2.2、写文件的过程

  • 客户端调用create()来创建文件

  • DistributedFileSystem用RPC调用元数据节点,在文件系统的命名空间中创建一个新的文件。

  • 元数据节点首先确定文件原来不存在,并且客户端有创建文件的权限,然后创建新文件。

  • DistributedFileSystem返回DFSOutputStream,客户端用于写数据。

  • 客户端开始写入数据,DFSOutputStream将数据分成块,写入data queue。

  • Data queue由Data Streamer读取,并通知元数据节点分配数据节点,用来存储数据块(每块默认复制3块)。分配的数据节点放在一个pipeline里。

  • Data Streamer将数据块写入pipeline中的第一个数据节点。第一个数据节点将数据块发送给第二个数据节点。第二个数据节点将数据发送给第三个数据节点。

  • DFSOutputStream为发出去的数据块保存了ack queue,等待pipeline中的数据节点告知数据已经写入成功。

  • 如果数据节点在写入的过程中失败:

    • 关闭pipeline,将ack queue中的数据块放入data queue的开始。

    • 当前的数据块在已经写入的数据节点中被元数据节点赋予新的标示,则错误节点重启后能够察觉其数据块是过时的,会被删除。

    • 失败的数据节点从pipeline中移除,另外的数据块则写入pipeline中的另外两个数据节点。

    • 元数据节点则被通知此数据块是复制块数不足,将来会再创建第三份备份。

  • 当客户端结束写入数据,则调用stream的close函数。此操作将所有的数据块写入pipeline中的数据节点,并等待ack queue返回成功。最后通知元数据节点写入完毕。

image


本文转载自:http://www.cnblogs.com/forfuture1978/archive/2010/03/14/1685351.html

IT追寻者

IT追寻者

粉丝 31
博文 439
码字总数 63736
作品 0
海淀
高级程序员
私信 提问
零基础学习hadoop到上手工作线路指导(中级篇)

此篇是在零基础学习hadoop到上手工作线路指导(初级篇)的基础,一个继续总结。 五一假期:在写点内容,也算是总结。上面我们会了基本的编程,我们需要对hadoop有一个更深的理解: hadoop分为...

一枚Sir
2014/08/07
142
0
shell 命令操作hdfs

简介 本编文章主要讲述shell 命令操作hdfs 主要讲述几个简单常用的shell 命令 如 ls get mkdir rm put 前提需要安装hdfs 作者用的是虚拟机搭建的伪分布式环境,如果没有搭建环境的可以参考这...

u012957549
2017/12/13
0
0
北京Cloudera Apache Hadoop 管理员培训

本次培训将于9月18日在北京开班,北京Cloudera Apache Hadoop 管理员培训报名平台活动家。报名猛戳上面“立即报名” Cloudera Apache Hadoop 管理员培训 Cloudera Apache Hadoop 培训及认证帮...

活动家
2017/08/02
26
0
Hdoop 学习笔记

简介:Hadoop分布式系统体系结构的核心: HDFS和MapReduce 。HDFS在集群上实现分布式文件系统,MapReduce在集群上实现了分布式计算和任务处理。HDFS在MapReduce任务处理过程中提供了文件操作...

james_lz
2016/03/08
65
0
Apache Hive-2.3.0 快速搭建与使用

Hive 简介 Hive 是一个基于 hadoop 的开源数据仓库工具,用于存储和处理海量结构化数据。它把海量数据存储于 hadoop 文件系统,而不是数据库,但提供了一套类数据库的数据存储和处理机制,并...

PengLei
2017/09/22
0
0

没有更多内容

加载失败,请刷新页面

加载更多

如何使用soapUI模拟webservice客户端发送请求

参考资料 https://jingyan.baidu.com/article/cbcede0712849a02f40b4d88.html 左边是请求参数,可以自己填写!按着那个绿色三角箭头可以模拟发送请求,右边是返回的报文 soapui如何发送xml格...

故久呵呵
31分钟前
4
0
Java Security 介绍

1.介绍 Java平台设计的重点是安全性。在其核心,java语言本身是类型安全的并且提供了垃圾自动回收,这使其增加了应用程序代码的健壮性。安全的类加载以及验证机制确保了只有合法的代码才能够...

lixiaobao
37分钟前
4
0
Niushop开源商城系统-分销商管理

分销商管理 1.分销员的招募与管理 如何申请成为分销员? 在wap端个人中心满足之前设置的升级条件,可以申请分销员 开启分销商审核,需要在后台分销商管理——》待审核处进行审核通过。 通过完...

niushop-芳
38分钟前
3
0
为什么大公司一定要使用 DevOps?

究竟什么是DevOps? 要想回答这个问题,首先要明确DevOps这个过程参与的人员是谁,即开发团队和IT运维团队。那么,DevOps的意图是什么呢?即在两个团队之间,建立良好的沟通和协作,更快更可靠...

cs平台
40分钟前
5
0
高危预警|RDP漏洞或引发大规模蠕虫爆发,用户可用阿里云免费检测服务自检,建议尽快修复

2019年9月6日,阿里云应急响应中心监测到Metasploit-framework官方在GitHub空间公开了针对Windows远程桌面服务远程命令执行漏洞(CVE-2019-0708)的利用代码。利用该代码,无需用户交互操作,即...

Mr_zebra
45分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部