文档章节

Hadoop中的一些基本操作

KevinWen
 KevinWen
发布于 2014/04/29 23:59
字数 554
阅读 11103
收藏 6

    先粗略说一下“hadoop fs”和“hadoop dfs”的区别:fs是各比较抽象的层面,在分布式环境中,fs就是dfs,但在本地环境中,fs是local file system,这个时候dfs不可用。

1、列出HDFS文件:

hadoop fs –ls

    a) –ls后面不跟任何内容的话是列出HDFS的"/user/用户名/"目录下的内容

    b) 如果要列出某个文件夹中的内容,则-ls后面跟该文件夹的路径,例如列出input中的内容:

hadoop fs –ls input

2、在HDFS中创建文件夹:

hadoop fs –mkdir 文件夹的名字

    例如:

hadoop fs –mkdir input

3、删除HDFS中的文件或文件夹

hadoop fs –rmr  文件夹名或者文件名

4、上传文件到HDFS:

hadoop fs –put ~/file test

    将本机中的file文件上传到HDFS上并重命名为test。

    如果要上传到某个文件夹中,则将test改为文件夹的地址,此时,上传的文件名称不会改变,例如将本地文件

夹test中的文件test1.txt,test2.txt,test3.txt上传到HDFS中的input中:

hadoop fs –put ~/test/test*.txt input

5、查看HDFS下的某个文件:

 hadoop fs –cat 文件路径

    例如查看input中的test文件的内容:

hadoop fs –cat input/test

6、将HDFS中的文件复制到本地系统中:

hadoop fs –get HDFS中的文件名本地系统中的文件名 本地存放地址

    例如:将HDFS中的output文件复制到本地系统Documents文件夹中

hadoop fs –get output /home/kevin/Documents/

7、进入/退出安全模式

    有时,在hadoop启动时不能对文件系统进行如创建文件,删除文件之类的操作,此时,文件系统所处的状 态叫做安全模式,用途大家可以到网上搜一搜,笔者不在这里赘述(由于笔者属于初学者,HDFS上的东西还不多,节点也不多,所以笔者一般开启Hadoop后,不管有没有在安全模式,先输退出安全模式的命令)。

hadoop dfsadmin –safemode enter
hadoop dfsadmin –safemode leave

 

© 著作权归作者所有

KevinWen
粉丝 1
博文 9
码字总数 6153
作品 0
泸州
私信 提问
hadoop--HDFS文件系统的基本操作

首先启动我们的hadoop的五大守护进程,然后进入到我们的hadoop的bin目录下面,键入hadoop 如上图所示,我们可以看到hadoop后面可以跟很多的参数,其中fs就是对我们hdfs文件系统操作的参数.带上f...

black_lxf_720
2016/03/07
106
0
零基础学习hadoop到上手工作线路指导(中级篇)

此篇是在零基础学习hadoop到上手工作线路指导(初级篇)的基础,一个继续总结。 五一假期:在写点内容,也算是总结。上面我们会了基本的编程,我们需要对hadoop有一个更深的理解: hadoop分为...

一枚Sir
2014/08/07
138
0
E-MapReduce支持计算与存储分离,成本下降1倍

Hadoop一出生就是存储与计算在一起的,前几年面试题中都问,Hadoop怎么保证高性能呢?其中一个原因是存储不动,计算(code)动,不同于传统的集中式的存储模式。那我们为什么还要谈存储计算分离...

hbase小能手
2018/11/05
0
0
[ Hadoop ] 单机伪集群配置试验和分析

同步发在: https://evergreen-tree.github.io/articles/2016-05/daily-hadoop-singleNode-setup 以下内容摘自网路: Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不...

巴林的狗尾草
2016/05/25
2.2K
13
Hive(三):了解Hive的基本操作。

对Hive的一些基本操作做了个简单的封装,未创建Maven工程,至于需要的包,以及如何获取HiveConnection请参考上一篇博文: http://my.oschina.net/gently/blog/683604 一:首先,配置好连接H...

牧羊人Berg
2016/05/29
587
0

没有更多内容

加载失败,请刷新页面

加载更多

MainThreadSupport

MainThreadSupport EventBus 3.0 中的代码片段. org.greenrobot.eventbus.MainThreadSupport 定义一个接口,并给出默认实现类. 调用者可以在EventBus的构建者中替换该实现. public interface ...

马湖村第九后羿
38分钟前
3
0
指定要使用的形状来代替文字的显示

控制手机键盘弹出的功能只能在ios上实现,安卓是实现不了的,所以安卓只能使用type类型来控制键盘类型,例如你要弹出数字键盘就使用type="number",如果要弹出电话键盘就使用type="tel",但这...

前端老手
48分钟前
5
0
总结:Raft协议

一、Raft协议是什么? 分布式一致性算法。即解决分布式系统中各个副本数据一致性问题。 二、Raft的日志广播过程 发送日志到所有Followers(Raft中将非Leader节点称为Follower)。 Followers收...

浮躁的码农
56分钟前
7
0
Flask-admin Model View字段介绍

Model View字段介绍 can_create = True 是否可以创建can_edit = True 是否可以编辑can_delete = True 是否可以删除list_template = 'admin/model/list.html' 修改显......

dillonxiao
今天
5
0
从AnnotationTransactionAspect开始rushSpring事务

0. Spring 事务 with LTW 0.1. Spring 事务 With LTW的原因: Pure Proxy-base mode有缺陷,其失效原因分析及使用方法及运行机制(LoadTimeWeaverBeanDefinitionParser和 AspectJWeavingEnable......

Aruforce
今天
9
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部