文档章节

hadoop3种集群方式

乐搏学院
 乐搏学院
发布于 2017/07/26 17:37
字数 549
阅读 25
收藏 0

 hadoop3种集群方式包括独立模式、伪分布式模式和完全分布式模式

  1独立模式

安装

  a)下载jdk-8u65-linux-x64.tar.gz

  b)tar开

  $>su centos ; cd ~

  $>mkdir downloads

  $>cp /mnt/hdfs/downloads/bigdata/jdk-8u65-linux-x64.tar.gz ~/downlooads

  $>tar -xzvf jdk-8u65-linux-x64.tar.gz

  c)创建/soft文件夹

  $>sudo mkdir /soft

  $>sudo chown centos:centos /soft

  d)移动tar开的文件到/soft下

  $>mv ~/downloads/jdk-1.8.0_65 /soft/

  e)创建符号连接

  $>ln -s /soft/jdk-1.8.0_65 /soft/jdk

  f)验证jdk安装是否成功

  $>cd /soft/jdk/bin

  $>./java -version

配置jdk环境变量

  1.编辑/etc/profile

  $>sudo nano /etc/profile

  ...

  export JAVA_HOME=/soft/jdk

  exprot PATH=$PATH:$JAVA_HOME/bin

  2.使环境变量即刻生效

  $>source /etc/profile

  3.进入任意目录下,测试是否ok

  $>cd ~

  $>java -version

  注意点

  你创建文件夹一定和你登陆的用户一致

安装HADOOP软件

   1.安装hadoop

  a)下载hadoop-2.7.3.tar.gz

  b)tar开

  $>su centos ; cd ~

  $>cp /mnt/hdfs/downloads/bigdata/hadoop-2.7.3.tar.gz ~/downloads

  $>tar -xzvf hadoop-2.7.3.tar.gz

  c)无

  d)移动tar开的文件到/soft下

  $>mv ~/downloads/hadoop-2.7.3 /soft/

  e)创建符号连接

  $>ln -s /soft/hadoop-2.7.3 /soft/hadoop

  f)验证hadoop安装是否成功

  $>cd /soft/hadoop/bin

  $>./hadoop version

  2.配置hadoop环境变量

  $>sudo nano /etc/profile

  ...

  export JAVA_HOME=/soft/jdk

  exprot PATH=$PATH:$JAVA_HOME/bin

  export HADOOP_HOME=/soft/hadoop

  export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

  3.生效

  $>source /etc/profile

  4.进入任意目录下,测试是否ok

  $>cd ~

  $>hadoop version

  5.nothing !

  不需要启用单独的hadoop进程。

  6.hafs dfs -ls /home 和 linux中的ls效果一样

伪分布模式(Pseudodistributed mode)

  a)进入${HADOOP_HOME}/etc/hadoop目录

  三种模式共存

   1.创建三个配置目录,内容等同于hadoop目录

   ${hadoop_home}/etc/local

   ${hadoop_home}/etc/pesudo

   ${hadoop_home}/etc/full

   2.创建符号连接

   $>ln -spesudo hadoop

  b)编辑core-site.xml

  <?xml version="1.0"?>

  <configuration>

  <property>

  <name>fs.defaultFS</name>

  <value>hdfs://localhost/</value>

  </property>

  </configuration>

  c)编辑hdfs-site.xml

  <?xml version="1.0"?>

  <configuration>

  <property>

  <name>dfs.replication</name>

  <value>1</value>

  </property>

  </configuration>

  d)编辑mapred-site.xml

  注意:cp mapred-site.xml.template mapred-site.xml

  <?xml version="1.0"?>

  <configuration>

  <property>

  <name>mapreduce.framework.name</name>

  <value>yarn</value>

  </property>

  </configuration>

  e)编辑yarn-site.xml

  <?xml version="1.0"?>

  <configuration>

  <property>

  <name>yarn.resourcemanager.hostname</name>

  <value>localhost</value>

  </property>

  <property>

  <name>yarn.nodemanager.aux-services</name>

  <value>mapreduce_shuffle</value>

  </property>

  </configuration>

  配置:core-site.xml hdfs-site.xmls yarn-site.xml mapred-site.xml

   f)配置SSH

登录乐搏学院官网http://www.learnbo.com/

或关注我们的官方微博微信,还有更多惊喜哦~

© 著作权归作者所有

共有 人打赏支持
乐搏学院
粉丝 7
博文 526
码字总数 707467
作品 0
丰台
程序员
私信 提问
VMware 下Hadoop集群环境搭建之虚拟机克隆,Hadoop环境配置

在上一篇我们完成了ContOS网络配置以及JDK的安装,这一篇将在上一篇的基础上继续讲解虚拟机的克隆,hadoop环境搭建 传送门: VMware 下Hadoop集群环境搭建之新建虚拟机 VMware 下Hadoop集群环境...

lljjyy001
05/05
0
0
Hadoop手把手逐级搭建,从单机伪分布到高可用+联邦(4)Hadoop高可用+联邦(HA+Federation)

第四阶段: Hadoop高可用+联邦(HA+Federation) 0. 步骤概述 1. 为高可用保存hadoop配置 1.1 进入$HADOOP_HOME/etc/目录 1.2 备份hadoop高可用配置,供以后使用 1.3 查看$HADOOP_HOME/etc/目录...

bigablecat
01/05
0
0
Hadoop2.6.1集群部署之自动切换HA

1. 引言 在上篇博客中介绍了Haddop的手动切换NameNode,这在生产环境中还是不尽人意,因为工作人员可能并不会及时的知道NameNode什么时候宕机?因此在生产环境中实现NameNode的动态切换是十分...

Liri
2017/12/16
0
0
微服务架构实战学习(七):Eureka 高可用

上一篇最后提到我们的 Eureka Server 只有一个进程在运行,一旦发生不可预料的问题,进程停止,服务也就停止。 而 Eureka 的解决方案就是为 Eureka Server 构建一个集群,使用多个服务来同时...

雨林_a1d6
06/24
0
0
Spark2.0.0集群部署教程

1.引言 在前面的博客中介绍了Spark的伪分布安装,在本篇博客中将介绍一下Spark的集群部署,在本博客中Spark的调度采用Hadoop的Yarn平台,因此在安装Spark之前,需要先部署Hadoop的集群,因为...

Liri
2017/12/16
0
0

没有更多内容

加载失败,请刷新页面

加载更多

不可不说的Java“锁”事

前言 Java提供了种类丰富的锁,每种锁因其特性的不同,在适当的场景下能够展现出非常高的效率。本文旨在对锁相关源码(本文中的源码来自JDK 8)、使用场景进行举例,为读者介绍主流锁的知识点...

美团技术团队
9分钟前
1
0
ali oss util demo

package com.example.demo;import com.aliyun.oss.OSSClient;import com.aliyun.oss.common.utils.BinaryUtil;import com.aliyun.oss.model.*;import org.slf4j.Logger;import o......

经常把天聊死的胖子
11分钟前
1
0
Windows系统中eclipse修改字体为Courier New

背景:在eclipse修改字体时没有找到Courier New字体; 解决: 1.在计算机地址栏上输入“C:\Windows\Fonts”路径,回车打开Win10字体文件夹。查看是否有Courier New字体;如下图: 2.如果有该...

anlve
11分钟前
1
0
使用hexo做博客网站

hexo有什么用? hexo 可以把md文件生成html静态网页。 hexo官网:https://hexo.io/zh-cn/ 本地安装hexo。 npm install -g hexo-cli#生成blog(名字任意)文件夹,并且在这个文件夹里面初始化...

王坤charlie
11分钟前
1
0
RabbitMQ+PHP 教程四(Routing)用yii2测试通过

开始 在本教程中,我们将为它添加一个特性——我们将只可能订阅消息的一个子集。例如,我们只能够将关键错误消息直接指向日志文件(以节省磁盘空间),同时仍然能够打印控制台上的所有日志消...

hansonwong
15分钟前
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部