文档章节

hadoop-005-YARN HA 配置

jxlgzwh
 jxlgzwh
发布于 2016/11/27 23:54
字数 318
阅读 33
收藏 0

yarn-site.xml 并使用zookeeper 来 管理resourcemanager的状态

 

<?xml version="1.0"?>

<configuration>
<property>
  <name>yarn.resourcemanager.ha.enabled</name>
  <value>true</value>
</property>
<property>
  <name>yarn.resourcemanager.cluster-id</name>
  <value>cluster1</value>
</property>
<property>
  <name>yarn.resourcemanager.ha.rm-ids</name>
  <value>rm1,rm2</value>
</property>
<property>
  <name>yarn.resourcemanager.hostname.rm1</name>
  <value>master</value>
</property>
<property>
  <name>yarn.resourcemanager.hostname.rm2</name>
  <value>slave01</value>
</property>
<property>
  <name>yarn.resourcemanager.webapp.address.rm1</name>
  <value>master:8088</value>
</property>
<property>
  <name>yarn.resourcemanager.webapp.address.rm2</name>
  <value>slave01:8088</value>
</property>
<property>
  <name>yarn.resourcemanager.zk-address</name>
  <value>master:2181,slave01:2181,slave02:2181</value>
</property>
<!-- Site specific YARN configuration properties -->

</configuration>

将配置同步到 master 和slave01 节点,然后启动rm

hadoop-2.7.2/sbin/yarn-daemon.sh start resourcemanager

查看节点状态

 hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm1

 hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm2

[jxlgzwh@slave01 ~]$ hadoop-2.7.2/sbin/yarn-daemon.sh start resourcemanager
starting resourcemanager, logging to /home/jxlgzwh/hadoop-2.7.2/logs/yarn-jxlgzwh-resourcemanager-slave01.out
[jxlgzwh@slave01 ~]$ jps
4160 DataNode
3986 NameNode
4853 ResourceManager
4885 Jps
3851 JournalNode
3502 QuorumPeerMain
4542 DFSZKFailoverController
[jxlgzwh@slave01 ~]$ hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm1
standby
[jxlgzwh@slave01 ~]$ hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm2
active
[jxlgzwh@slave01 ~]$ jps
4160 DataNode
5425 Jps
3986 NameNode
4853 ResourceManager
3851 JournalNode
3502 QuorumPeerMain
4542 DFSZKFailoverController
[jxlgzwh@slave01 ~]$ hadoop-2.7.2/sbin/yarn-daemon.sh stop resourcemanager
stopping resourcemanager
[jxlgzwh@slave01 ~]$ hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm1
active
[jxlgzwh@slave01 ~]$ hadoop-2.7.2/bin/yarn rmadmin -getServiceState rm2
16/11/27 23:44:42 INFO ipc.Client: Retrying connect to server: slave01/192.168.31.130:8033. Already tried 0 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=1, sleepTime=1000 MILLISECONDS)
Operation failed: Call From slave01/192.168.31.130 to slave01:8033 failed on connection exception: java.net.ConnectException: 拒绝连接; For more details see:  http://wiki.apache.org/hadoop/ConnectionRefused
[jxlgzwh@slave01 ~]$

参考文档

http://hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html#RM_Failover

© 著作权归作者所有

jxlgzwh
粉丝 55
博文 316
码字总数 131685
作品 1
深圳
程序员
私信 提问
Hadoop CDH4.5升级CDH5 以及NameNode和YARN HA实战

CDH5支持很多新特性,所以打算把当前的CDH4.5升级到CDH5,软件部署还是以之前的CDH4.5集群为基础 192.168.1.10 U-1 (Active) hadoop-yarn-resourcemanager hadoop-hdfs-namenode hadoop-mapr...

China_OS
2014/05/27
0
0
Hadoop技术资料汇总(不断更新中)

这些资料都是我在工作中学习、解决问题的资料汇总,我不能保证这里罗列的所有资料对看到的人有用,但大部分都经过我的实际验证。在不断学习和实践过程中,我会不断更新和总结这些资料,同时欢...

九州暮云
05/07
0
0
Hadoop YARN单点故障解决方案(HA)介绍

在Apache Hadoop 2.0的第一个稳定版本2.2.0中,资源管理系统YARN存在单点故障,且尚未解决。YARN ResourceManage HA的相关jira为YARN-149,目前正在火热开发中,但尚未公布将来的发布版本。由...

蓝狐乐队
2014/05/12
0
0
Apache Hadoop 2.0.3 发布

Apache Hadoop 2.0.3发布了,在这次版本更新中,主要增加了以下几个特性: 1. 引入一种新的HDFS HA解决方案QJM 之前NameNode HA已经有两种解决方案,分别是基于共享存储区的Backup Node方案和...

oschina
2013/02/17
3.2K
2
Hadoop 2.0中单点故障解决方案总结

项目构建 Hadoop 1.0内核主要由两个分支组成:MapReduce和HDFS,众所周知,这两个系统的设计缺陷是单点故障,即MR的JobTracker和HDFS的NameNode两个核心服务均存在单点问题,该问题在很长时间...

jackwxh
2018/06/29
0
0

没有更多内容

加载失败,请刷新页面

加载更多

数组算法

/*数组的相关的算法操作:1、在数组中找最大值/最小值*/class Test11_FindMax{public static void main(String[] args){int[] array = {4,2,6,8,1};//在数组中找最大...

architect刘源源
28分钟前
1
0
okhttp3 以上版本在安卓9.0无法请求数据的解决方案

应用官方的说明:在 Android 6.0 中,我们取消了对 Apache HTTP 客户端的支持。 从 Android 9 开始,默认情况下该内容库已从 bootclasspath 中移除且不可用于应用。且Android P 限制了明文流量...

chenhongjiang
今天
5
0
简单示例:NodeJs连接mysql数据库

开篇引用网上的说法: 简单的说 Node.js 就是运行在服务端的 JavaScript。Node.js 是一个基于Chrome JavaScript 运行时建立的一个平台。Node.js是一个事件驱动I/O服务端JavaScript环境,基于...

李朝强
今天
8
0
大数据学习路线

年薪30W大数据学习路线图: 一、Hadoop入门,了解什么是Hadoop 1、Hadoop产生背景 2、Hadoop在大数据、云计算中的位置和关系 3、国内外Hadoop应用案例介绍 4、国内Hadoop的就业情况分析及课程...

陈小君
今天
3
0
解读 Kylin 3.0.0 | 更敏捷、更高效的 OLAP 引擎

在近期的 Apache Kylin Meetup 成都站上,我们邀请到 Kyligence 架构师 & Apache Kylin Committer 倪春恩对 Kylin 3.0.0 版本的一些重要功能及改进从使用到原理进行了介绍: Apache Kylin 在...

ApacheKylin
今天
6
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部