文档章节

hadoop、hbase单点问题解决方案

晓阳
 晓阳
发布于 2014/11/19 14:44
字数 450
阅读 122
收藏 0

hbase单点:

1、在regionserver集群上,通过如下命令启动master:./hbase-daemon.sh start master(可以在多个regionserver集群上启动master,主master进程死掉后会重新选举一个新的master)


hadoop单点:

1、修改core-site.xml配置文件,参考如下:

<property>

<name>hadoop.tmp.dir</name>

<value>/ysh/hadoop/tmp</value>

</property>


<property>

<name>fs.trash.interval</name>

<value>1440</value>

</property>


<property>

<name>io.compression.codecs</name>

<value>com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec</value>

</property>


<property>

<name>io.compression.codec.lzo.class</name>

<value>com.hadoop.compression.lzo.LzoCodec</value>

</property>


<property>

<name>fs.defaultFS</name>

<value>hdfs://mycluster</value>

</property>


<property>

<name>ha.zookeeper.quorum</name>

<value>192.168.22.134:2181</value>

</property>


2、修改hdfs-site.xml配置文件,参考如下:

<property>

<name>dfs.namenode.name.dir</name>

<value>file:/ysh/hadoop/dfs/name</value>

</property>


<property>

<name>dfs.datanode.data.dir</name>

<value>file:/ysh/hadoop/dfs/data</value>

</property>


<property>

<name>dfs.replication</name>

<value>1</value>

</property>


<property>

<name>dfs.support.append</name>

<value>false</value>

</property>


<property>

<name>dfs.permissions</name>

<value>false</value>

</property>


<property>

<name>dfs.datanode.max.xcievers</name>

<value>5000</value>

</property>


<property>

<name>dfs.nameservices</name>

<value>mycluster</value>

</property>


<property>

<name>dfs.ha.namenodes.mycluster</name>

<value>nn1,nn2</value>

</property>


<property>

<name>dfs.namenode.rpc-address.mycluster.nn1</name>

<value>redhat-1:8020</value>

</property>


<property>

<name>dfs.namenode.rpc-address.mycluster.nn2</name>

<value>redhat-2:8020</value>

</property>


<property>

<name>dfs.namenode.http-address.mycluster.nn1</name>

<value>redhat-1:50070</value>

</property>


<property>

<name>dfs.namenode.http-address.mycluster.nn2</name>

<value>redhat-2:50070</value>

</property>


<property>

<name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://redhat-1:8485;redhat-2:8485;redhat-3:8485/mycluster</value>

</property>


<property>

<name>dfs.journalnode.edits.dir</name>

<value>/ysh/hadoop/dfs/journal</value>

</property>


<property>

<name>dfs.client.failover.proxy.provider.mycluster</name>

<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

</property>


<property>

<name>dfs.ha.automatic-failover.enabled</name>

<value>true</value>

</property>


<property>

<name>dfs.ha.fencing.methods</name>

<value>shell(/bin/true)</value>

</property>

其他配置文件和单namenode配置一样


3、修改完,启动zookeeper,到hadoop的bin目录下执行命令:./hdfs zkfc -formatZK


4、再启动journalnode,到hadoop的sbin目录下,命令如下:./hadoop-daemons.sh start journalnode


5、初始化其中一个namenode,命令如下:./hadoop namenode -format


6、同步2台namenode的name目录,用scp命令


7、启动hadoop集群,命令如下:./start-all.sh


8、hadoop配置ha模式,hbase的 hbase-site.xml的hbase.rootdir作如下修改:

参考:

<property>

<name>hbase.rootdir</name>

<value>hdfs://mycluster/hbase</value>

</property>


© 著作权归作者所有

共有 人打赏支持
晓阳
粉丝 10
博文 69
码字总数 52360
作品 0
徐汇
程序员
私信 提问
加载中

评论(2)

晓阳
晓阳
8、hadoop配置ha模式,hbase的 hbase-site.xml的hbase.rootdir作如下修改:

参考:

<property>

<name>hbase.rootdir</name>

<value>hdfs://mycluster/hbase</value>

</property>
这里有问题,需要将hadoop的配置文件拷贝到hbase的conf文件夹下,否则会报错unknownhostexcetpion
晓阳
晓阳
切记不要拷贝博客中的配置,我就因为拷贝导致一些错误,花了一些时间才解决,直接拷贝会因为格式问题导致一些错误
Sqoop数据导入到HBase遇上的问题及解决方法

  【IT168 技术】运行bin/sqoop import --connect jdbc:mysql://ip:port/database --username * --password **--hbase-bulkload --hbase-create-table --column-family info --hbase-row-k......

中国大数据
05/31
0
0
hadoop hive hbase 入门学习 (二)

//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////// hadoop 自学系列 hado......

curiousby
2015/03/08
0
0
Hadoop HBase 配置 安装 Snappy 终极教程

原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 、作者信息和本声明。否则将追究法律责任。http://shitouer.cn/2013/01/hadoop-hbase-snappy-setup-final-tutorial/ 因为产...

Fowler.Zhang
2013/01/14
0
0
HBaseCon亚洲2018峰会盛大开幕 阿里带你洞悉HBase大数据生态最新发展和行业实践

8月17日,HBaseCon亚洲2018峰会在北京歌华开元大酒店盛大开幕。作为Apache基金会旗下HBase社区的顶级用户峰会,HBaseCon大会是Apache HBase™官方从2012年开始发起和延续至今的技术会议,先后...

桐碧2018
08/17
0
0
Apache HBase 2015 年发展回顾与未来展望

编者按:高可用架构推出 2015 年度回顾系列文章,分享在架构领域具有典型意义的年度案例,本文由张虔熙分享。转载请注明来自高可用架构公众号「ArchNotes」。 张虔熙,Hulu 网,专注于分布式...

oschina
2016/01/05
3.3K
4

没有更多内容

加载失败,请刷新页面

加载更多

Pure-ftpd搭建FTP

12月11日任务 15.4 xshell使用xftp传输文件 15.5 使用pure-ftpd搭建ftp服务 使用pure-ftpd搭建FTP服务 轻量的ftp软件 安装pure-ftpd并修改配置文件 # pure-ftpd为epel扩展库里的软件[root...

robertt15
20分钟前
2
0
开源 serverless 产品原理剖析(二) - Fission

背景 本文是开源 serverless 产品原理剖析系列文章的第二篇,关于 serverless 背景知识的介绍可参考文章开源 serverless 产品原理剖析(一) - Kubeless,这里不再赘述。 Fission 简介 Fiss...

阿里云官方博客
26分钟前
2
0
Android面试整理(附答案)

面试,无非都是问上面这些问题(挺多的 - -!),聘请中高级的安卓开发会往深的去问,并且会问一延伸二。以下我先提出几点重点,是面试官基本必问的问题,请一定要去了解! 基础知识 – 四大组...

终端研发部
31分钟前
3
0
Vue 改变数组触发视图更新

Vue 改变数组触发视图更新 以下方法调用会改变原始数组 push(), pop(), shift(), unshift(), splice(), sort(), reverse()push()push() 方法可向数组的末尾添加一个或多个元素,并返回新的...

不负好时光
36分钟前
2
0
计算机系统要素 C5

本章值得一提的是组织计算机的结构。Hack 的指令和数据是分开存储的,因此它的 CPU 有两个 input: IN inM[16], // M value input (M = contents of RAM[A]) instruction[16],...

lionets
52分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部