文档章节

基于Hadoop的云盘系统客户端技术难点-上传和下载效率优化

张子良
 张子良
发布于 2013/03/07 09:54
字数 1044
阅读 401
收藏 4

一、概述  

基于任何平台实现的云盘系统,面临的首要的技术问题就是客户端上传和下载效率优化问题。基于Hadoop实现的云盘系统,受到Hadoop文件读写 机制的影响,采用Hadoop提供的API进行HDFS文件系统访问,文件读取时默认是顺序、逐block读取;写入时是顺序写入。

二、读写机制  

首先来看文件读取机制:尽管DataNode实现了文件存储空间的水平扩展和多副本机制,但是针对单个具体文件的读取,Hadoop默认的API接 口并没有提供多DataNode的并行读取机制。基于Hadoop提供的API接口实现的云盘客户端也自然面临同样的问题。Hadoop的文件读取流程如 下图所示:

  1. 使用HDFS提供的客户端开发库,向远程的Namenode发起RPC请求;

  2. Namenode会视情况返回文件的部分或者全部block列表,对于每个block,Namenode都会返回有该block拷贝的datanode地址;

  3. 客户端开发库会选取离客户端最接近的datanode来读取block;

  4. 读取完当前block的数据后,关闭与当前的datanode连接,并为读取下一个block寻找最佳的datanode;

  5. 当读完列表的block后,且文件读取还没有结束,客户端开发库会继续向Namenode获取下一批的block列表。

  6. 读取完一个block都会进行checksum验证,如果读取datanode时出现错误,客户端会通知Namenode,然后再从下一个拥有该block拷贝的datanode继续读取。

  这里需要注意的关键点是:多个Datanode顺序读取。

  其次再看文件的写入机制:

 

  1. 使用HDFS提供的客户端开发库,向远程的Namenode发起RPC请求;

  2. Namenode会检查要创建的文件是否已经存在,创建者是否有权限进行操作,成功则会为文件创建一个记录,否则会让客户端抛出异常;

  3. 当客户端开始写入文件的时候,开发库会将文件切分成多个packets,并在内部以"data queue"的形式管理这些packets,并向Namenode申请新的blocks,获取用来存储replicas的合适的datanodes列表, 列表的大小根据在Namenode中对replication的设置而定。

  4. 开始以pipeline(管道)的形式将packet写入所有的replicas中。开发库把packet以流的方式写入第一个 datanode,该datanode把该packet存储之后,再将其传递给在此pipeline中的下一个datanode,直到最后一个 datanode,这种写数据的方式呈流水线的形式。

  5. 最后一个datanode成功存储之后会返回一个ack packet,在pipeline里传递至客户端,在客户端的开发库内部维护着"ack queue",成功收到datanode返回的ack packet后会从"ack queue"移除相应的packet。

  6. 如果传输过程中,有某个datanode出现了故障,那么当前的pipeline会被关闭,出现故障的datanode会从当前的 pipeline中移除,剩余的block会继续剩下的datanode中继续以pipeline的形式传输,同时Namenode会分配一个新的 datanode,保持replicas设定的数量。

  关键词:开发库把packet以流的方式写入第一个datanode,该datanode将其传递给pipeline中的下一个datanode,知道最后一个Datanode,这种写数据的方式呈流水线方式。

三、解决方案

  1.下载效率优化

  通过以上读写机制的分析,我们可以发现基于Hadoop实现的云盘客户段下载效率的优化可以从两个层级着手:

  1.文件整体层面:采用并行访问多线程(多进程)份多文件并行读取。

  2.Block块读取:改写Hadoop接口扩展,多Block并行读取。

  2.上传效率优化

  上传效率优化只能采用文件整体层面的并行处理,不支持分Block机制的多Block并行读取。

© 著作权归作者所有

张子良

张子良

粉丝 47
博文 14
码字总数 36118
作品 1
丰台
项目经理
私信 提问
加载中

评论(0)

基于Hadoop开发网络云盘系统架构设计方案第一稿

引言   云计算技术的发展,各种网络云盘技术如雨后春笋,层出不穷,百度、新浪、网易都推出了自己的云盘系统,本文基于开源框架Hadoop设计实现了一套自己的网络云盘系统,方案为初步设计方...

阿尔法胖哥
2013/08/28
0
0
基于Hadoop的云盘系统客户端技术难点之二 HDFS文件系统安全保障

作者:张子良 版权所有,转载请注明出处 一、概述     Hadoop开源技术框架在实际业务应用中,其早期的安全机制饱受诟病,具体到HDFS应用方面的问题,主要包括以下几个方面:   1.用户到...

张子良
2013/03/07
1K
2
基于Hadoop开发网络云盘系统客户端界面设计初稿

前言:   本文是《基于Hadoop开发网络云盘系统架构设计方案》的第二篇,针对界面原型原本考虑有两个方案:1、类windows模式,文件夹、文件方式,操作习惯完全按照Windows方式进行,提供右键...

阿尔法胖哥
2013/09/03
0
0
hadoop(02)、使用JAVA API对HDFS进行基本操作

本文源码码云地址:https://gitee.com/MaxBill/hadoop 在上篇《hadoop(01)、windows平台下hadoop环境搭建》中,实践了在windows平台下使用搭建hadoop开发环境,同时搭建完毕在基于命令行的形...

MaxBill
2017/11/16
1K
0
公有云盘限速?自建云创网盘上传下载快如风!

     对于资料上传、下载或分享,我们早已习惯使用公有云盘。   但是,随着互联网公司纷纷关停云盘服务,网盘限速严重,不少功能需要开通会员才能使用,由此也成为了公有云盘的槽点。 ...

深度学习
01/07
0
0

没有更多内容

加载失败,请刷新页面

加载更多

docker容器内apt快速更换国内源

mv /etc/apt/sources.list /etc/apt/sources.list.bakecho "deb http://mirrors.163.com/debian/ jessie main non-free contrib" >> /etc/apt/sources.listecho "deb http://mirrors......

Rhynie
32分钟前
21
0
Handlers与Controls

本教程假设您已经阅读了Leaflet Class Theory 在leaflet中, 一个layer是跟随map移动的任何东西。 与之相反,一个control是对于map容器相对静态的HTML元素(例如,缩放、全屏的按钮都是contr...

东东笔记
32分钟前
19
0
kafka压测之producer

背景 前不久自建了大数据平台,由于时间问题,排期紧张,未能对平台进行压测。现在平台搭建完成,计划对平台组件逐一进行一次压测。 欢迎指正,不喜勿喷! 压测目标 测试Kafka集群写入消息和...

阿dai学长
34分钟前
9
0
DRF: drf_yasg swagger 文档http -> https

drf_yasg 文档https配置 参考 django 配置 settings.py USE_X_FORWARDED_HOST = TrueSECURE_PROXY_SSL_HEADER = ('HTTP_X_FORWARDED_PROTO', 'https') nginx 配置 加入X-Forwarded-Proto在......

hyhlinux
43分钟前
19
0
Docker存储驱动之--overlay2

docker支持多种graphDriver,包括vfs、devicemapper、overlay、overlay2、aufs等等,其中最常用的就是aufs了,但随着linux内核3.18把overlay纳入其中,overlay的地位变得更重,最近也在自己的...

Jack088
44分钟前
9
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部