文档章节

Hadoop单机环境搭建

遥远的绝响
 遥远的绝响
发布于 2015/03/19 22:13
字数 362
阅读 38
收藏 2

#Hadoop环境#

##操作系统## 我用的是Mac,其实Mac系统也是Linux的一个分支,用RedHat,CenterOS,Ubuntu等都是一样的。不建议在windows下安装Hadoop

##安装前提##

  • Java
  • SSH

##获取Hadoop安装包##

  • 这个自己百度吧,我用的是hadoop-2.3.0

##将下载的hadoop安装包用FTP工具上传到Linux服务器的/usr/local目录下

##解压hadoop压缩包

cd /usr/local/  
tar -zxvf hadoop-2.3.0.tar.gz

##设置环境变量

  • vi /etc/profile
  • 添加环境变量: export HADOOP_HOME=/usr/local/hadoop-2.3.0
  • 将hadoop添加到PATH变量中: PATH = $HADOOP_HOME/bin:$PATH
  • 使环境变量生效 : source /etc/profile

##修改Hadoop配置文件##

###修改hdfs-site.xml###

<configuration>
        <property>
                <name>dfs.replication</name>
                <value>1</value>
        </property>
        <property>
                <name>dfs.permissions</name>
                <value>false</value>
        </property>
</configuration>

###修改core-site.xml

<configuration>
    <property>
            <name>fs.default.name</name>
            <value>hdfs://localhost:9000</value>
    </property>
    <property>
            <name>hadoop.tmp.dir</name>
            <value>/usr/local/hadoop-2.3.0</value>
    </property>
</configuration>

###修改 mapred-site.xml

<configuration>
    <property>
            <name>mapred.job.tracker</name>
            <value>localhost:9001</value>
    </property>
</configuration>

###修改hadoop-env.sh

增加一行:(依照个人的Java安装路径填写)

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_25.jdk/Contents/Home

##至此,hadoop的安装和配置已经ok##

  • 先格式化一下HDFS系统:

    hadoop namenode -format

  • 然后我们可以启动hadoop了

    cd /usr/local/hadoop-2.3.0/sbin
    ./start-all.sh

  • 如果启动时 没有明显的报错,那么说明安装成功了。

##验证 hadoop fs -mkdir /d1 #创建的目录 hadoop fs -ls / #查看根目录

如果结果正确,代表hadoop单机环境搭建成功.恭喜!~

© 著作权归作者所有

共有 人打赏支持
遥远的绝响
粉丝 2
博文 23
码字总数 14132
作品 0
昆山
kylin_学习_01_kylin安装部署

一、环境准备 根据官方文档,kylin是需要运行在hadoop环境下的,如下图: 1.hadoop环境搭建 参考:hadoop学习02_Hadoop环境搭建(单机) 2.hbase环境搭建 参考:hbase学习01HBase环境搭建(单机...

rayner
03/20
0
0
分析几种Hadoop集群部署方式优劣

对hadoop初学者来说,或者说正在使用hadoop的开发者来说,hadoop环境的搭建不是一件省心的事,甚至很多博客上都重要的事说三便“不要花精力在搭建环境之上”,可见很多人在搭建环境时会遇到很...

cpaqyx
2017/06/25
0
0
Hadoop单机模式部署

一、Hadoop部署模式 单机模式:默认情况下运行为一个单独机器上的独立Java进程,主要用于调试环境 伪分布模式:在单个机器上模拟成分布式多节点环境,每一个Hadoop守护进程都作为一个独立的J...

结束的伤感
2016/04/20
0
0
hbase分布式集群搭建

hbase和hadoop一样也分为单机版、伪分布式版和完全分布式集群版本,这篇文件介绍如何搭建完全分布式集群环境搭建。 hbase依赖于hadoop环境,搭建habase之前首先需要搭建好hadoop的完全集群环...

纯洁的虫纸
2017/08/11
0
0
Hadoop手把手逐级搭建,从单机伪分布到高可用+联邦(1)单机伪分布

总体概述 1. 目标 2. 工具及版本 3. 四个阶段 第一阶段: hadoop单机伪分布(single) 0. 步骤概述 1. 配置网络修改主机名 1.1 查看VMware虚拟网络 1.2 配置虚拟机网卡ifcfg-eth0 1.3 设置NETWO...

bigablecat
2017/12/26
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

c语言之内存分配笔记

先看一个数组: short array[5] = {1,2} // 这儿定义的一个int类型的数组,数组第1和第2个元素值是1和2.其余后面默认会给值为0; 或者 short array[] = {1,2};//这儿数组第1和第2个元素,数组...

DannyCoder
32分钟前
0
0
Shell | linux安装包不用选择Y/N的方法

apt-get install -y packageOR echo "y" | sudo apt-get install package

云迹
今天
1
0
Hadoop的大数据生态圈

基于Hadoop的大数据的产品圈 大数据产品的一句话概括 Apache Hadoop: 是Apache开源组织的一个分布式计算开源框架,提供了一个分布式文件系统子项目(HDFS)和支持MapReduce分布式计算的软件架...

zimingforever
今天
4
0
八大包装类型的equals方法

先看其中一个源码 结论:八大包装类型的equals方法都是先判断类型是否相同,不相同则是false,相同则判断值是否相等 注意:包装类型不能直接用==来等值比较,否则编译报错,但是数值的基本类型...

xuklc
今天
2
0
NoSQL , Memcached介绍

什么是NoSQL 非关系型数据库就是NoSQL,关系型数据库代表MySQL 对于关系型数据库来说,是需要把数据存储到库、表、行、字段里,查询的时候根据条件一行一行地去匹配,当量非常大的时候就很耗...

TaoXu
昨天
4
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部