文档章节

hadoop的常用命令指南

片刻
 片刻
发布于 2014/05/23 14:26
字数 1117
阅读 7.1K
收藏 3

1.start-all.sh开启线程

hadoop fs -ls hdfs://cloud4:9000/user (cloud4表示主机名 9000代表端口号 /就代表根目录 /user就是user文件夹)

hadoop fs -ls /userhdfs://cloud4:9000可省略)

2. -ls/-lsr 查看目录下的文件信息

  hadoop fs -ls /  查看根目录下文件与文件夹

  hadoop fs -lsr /    递归查看根目录下所有文件与文件夹

  hadoop fs -ls    默认查看hdfs下的/user/<当前用户例如:/user/root  (很方便的)

3. –touchz 创建文件

可以创建一个文件

  hadoop fs -touchz /hello  (创建一个hello文件)

4. –mkdir 创建文件夹

linux中创建多级目录 mkdir –p   p表示parents

可以创建一个或者多个文件夹(hadoop则不需要-p)

  hadoop fs -mkdir /user  (创建一个user文件夹 )

5. -text/-cat查看文件内容

  hadoop fs -text /hello

  hadoop fs -cat /hello

 

6. -mv 移动/重命名

该命令选项表示移动 hdfs 的文件到指定的 hdfs 目录中。后面跟两个路径,第一个表示源文件,第二个表示目的目录

  hadoop fs -mv /hello /user(文件到文件夹:是移动)

hadoop fs -mv /hello /user/hello(文件到文件:是重命名)

7. -cp 复制

该命令选项表示复制 hdfs 指定的文件到指定的 hdfs 目录中。后面跟两个路径,第

一个是被复制的文件,第二个是目的地

  hadoop fs -cp /user/hello /user/root

8. -rm/-rmr 删除文件

-rm:删除文件/空白文件夹

该命令选项表示删除指定的文件或者空目录

  hadoop fs -rm /user/hello

-rmr:递归删除

该命令选项表示递归删除指定目录下的所有子目录和文件

 hadoop fs -rm /user

9. -put 上传文件

该命令选项表示把 linux 上的文件复制到 hdfs

  hadoop fs -put hadoop-env.sh /user 

将当前linux目录下的hadoop-env.sh文件,上传到/user(hdfs服务器上的user目录下)

hadoop fs -put hadoop-env.sh  /你叫起的名字(hello—文件名)

例如:hadoop fs -put hadoop-env.sh /hello

10.-copyFromLocal 从本地复制

用法与-put一样

  hadoop fs -copyFromLocal hadoop-env.sh /user

11 -moveFromLocal从本地移动

该命令表示把文件从 linux 上移动到 hdfs

hadoop fs -moveFromLocal /home/repine/hehe.txt /user

12. -getmerge 合并下载到本地

该命令选项的含义是把 hdfs 指定目录下的所有文件内容合并到本地 linux 的文件中

  hadoop fs -getmerge /user /home/repine/abc.txt     表示把user目录下所有文件内容复制到linux /home/repine/abc.txt

13. -setrep/-setrep -R/-setrep -R -w 设置副本数量

该命令选项是修改已保存文件的副本数量,后面跟副本数量,再跟文件路径

  hadoop fs -setrep 2 /user/hehe.txt   设置/user/hehe.txt副本数量为2

如果最后的路径表示文件夹,那么需要跟选项-R,表示对文件夹中的所有文件都修改副本

  hadoop fs -setrep -R 2 /user   设置/user下所有文件(不是文件夹)的副本数量为2

还有一个选项是-w,表示等待副本操作结束才退出命令

  hadoop fs -setrep -R -w 1 /user/hehe.txt

                                             

14. -du统计目录下个文件大小

  hadoop fs -du /    查看根目录下的各个文件的大小

  hadoop fs -dus /   汇总统计目录下所有文件的总大小(也就是当前文件夹的大小)

15.-count统计文件(夹)数量

  hadoop fs -count /usr  递归统计当前文件下的所有信息:数字代表(文件夹总数量、文件总数量、文件总大小信息)

  hadoop fs -lsr /usr    验证信息

16. –chmod/-chmod -R 修改文件权限

该命令选项的使用类似于 linux shell 中的 chmod 用法,作用是修改文件的权限

  hadoop fs - chmod 777 /user/hehe.txt  修改该文件的权限

如果加上选项-R,可以对文件夹中的所有文件修改权限

  hadoop fs – chmod -R 777 /user  修改该文件夹下所有文件的权限

17. hadoop jar jar在命令行运行

//打包运行程序必备宝典

job.setJarByClass(WordCountApp.class);

 

linux

hadoop jar    /linux下路径/XXX.jar     /hadoop执行jar的文件或者文件夹    /hadoop下存放目录

18、报告HDFS的基本统计信息

bin/hadoop dfsadmin -report

19、安全模式

bin/hadoop dfsadmin -safemode leave/enter/get/wait

 

20、将HDFS中的文件复制到本地系统中

bin/hadoop dfs -get in getin

HDFS中的in文件复制到本地系统并命名为getin


© 著作权归作者所有

片刻
粉丝 107
博文 271
码字总数 308453
作品 0
海淀
高级程序员
私信 提问
为什么说写“安装指南”类博客的程序员是懒惰的

安装指南无法精确 为什么我根据hadoop的官方指南安装群集困难重重,但是执行却如此轻松呢? 这不仅仅是一个简单一个复杂的问题。简单+简单+简单就变成复杂了,或者说复杂=简单+简单...+简单。...

jianglibo
2016/04/12
53
0
Hadoop命令指南

所有Hadoop命令通过bin/hadoop脚本调用。不带任何参数运行Hadoop脚本打印所有命令描述。 用法: hadoop [--config confdir] [--loglevel loglevel] [COMMAND] [GENERIC_OPTIONS] [COMMAND_O...

Leech
2016/06/25
85
0
【hadoop】8.HDFS-常用命令行操作

简介 通过本教程您可以学习到: HDFS命令行语法模式 所有命令列表 常用的命令行操作 命令实际测试及结果 1、基本语法 hadoop的hdfs操作基本语法很简单即 以hadoop fs引导的命令。 2、所有命令...

Areya
2019/01/12
13
0
hadoop1.1.2集群安装指南

首先是基于伪分布的安装: http://my.oschina.net/repine/blog/267698 如果你还不会,我想说:不太可能,加油!do it 构建hadoop集群 a>vmbox复制 或者vmware克隆 得到新的虚拟机 b>新建一个...

片刻
2014/05/29
104
0
hadoop1.1.2伪分布安装指南

1.伪分布式的安装 1.1 修改ip (1)打开VMWare或者VirtualBox的虚拟网卡 (2)在VMWare或者VirtualBox设置网络连接方式为host-only (3)在linux中,修改ip。有上角的图标,右键,选择Edit Connec...

片刻
2014/05/22
156
0

没有更多内容

加载失败,请刷新页面

加载更多

开源播放器

DPlayer

glen_xu
30分钟前
134
0
gitlab Error:Gitaly - load linguist colors - permission denied

报错信息 2020-01-20_14:35:08.43180 time=“2020-01-20T14:35:08Z” level=info msg=“Starting Gitaly” version=“Gitaly, version 0.81.0, built 20180225.183225” 2020-01-20_14:35:0......

JennerLuo
37分钟前
125
0
微信小程序的自动化测试框架

微信发布了小程序的自动化测试框架Minium,提供了多种运行验证方式,其特点: 支持一套脚本,iOS & Android & 模拟器,三端运行 提供丰富的页面跳转方式,看不到也能去得到 可以获取和设置小...

测者陈磊
49分钟前
84
0
禁用“输入”文本标签的自动缩放-iPhone上的Safari

我制作了一个带有<input>标记和type="text"的HTML页面。 当我使用iPhone上的Safari单击它时,页面变大(自动缩放)。 有人知道如何禁用此功能吗? #1楼 如果您的网站是为移动设备设计的,则可...

技术盛宴
今天
150
0
2019 年后端系统

2019.stateofjs.com/back-end/

MtrS
今天
117
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部