文档章节

hadoop、hbase单点问题解决方案

晓阳
 晓阳
发布于 2014/11/19 14:44
字数 450
阅读 118
收藏 0

hbase单点:

1、在regionserver集群上,通过如下命令启动master:./hbase-daemon.sh start master(可以在多个regionserver集群上启动master,主master进程死掉后会重新选举一个新的master)


hadoop单点:

1、修改core-site.xml配置文件,参考如下:

<property>

<name>hadoop.tmp.dir</name>

<value>/ysh/hadoop/tmp</value>

</property>


<property>

<name>fs.trash.interval</name>

<value>1440</value>

</property>


<property>

<name>io.compression.codecs</name>

<value>com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec</value>

</property>


<property>

<name>io.compression.codec.lzo.class</name>

<value>com.hadoop.compression.lzo.LzoCodec</value>

</property>


<property>

<name>fs.defaultFS</name>

<value>hdfs://mycluster</value>

</property>


<property>

<name>ha.zookeeper.quorum</name>

<value>192.168.22.134:2181</value>

</property>


2、修改hdfs-site.xml配置文件,参考如下:

<property>

<name>dfs.namenode.name.dir</name>

<value>file:/ysh/hadoop/dfs/name</value>

</property>


<property>

<name>dfs.datanode.data.dir</name>

<value>file:/ysh/hadoop/dfs/data</value>

</property>


<property>

<name>dfs.replication</name>

<value>1</value>

</property>


<property>

<name>dfs.support.append</name>

<value>false</value>

</property>


<property>

<name>dfs.permissions</name>

<value>false</value>

</property>


<property>

<name>dfs.datanode.max.xcievers</name>

<value>5000</value>

</property>


<property>

<name>dfs.nameservices</name>

<value>mycluster</value>

</property>


<property>

<name>dfs.ha.namenodes.mycluster</name>

<value>nn1,nn2</value>

</property>


<property>

<name>dfs.namenode.rpc-address.mycluster.nn1</name>

<value>redhat-1:8020</value>

</property>


<property>

<name>dfs.namenode.rpc-address.mycluster.nn2</name>

<value>redhat-2:8020</value>

</property>


<property>

<name>dfs.namenode.http-address.mycluster.nn1</name>

<value>redhat-1:50070</value>

</property>


<property>

<name>dfs.namenode.http-address.mycluster.nn2</name>

<value>redhat-2:50070</value>

</property>


<property>

<name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://redhat-1:8485;redhat-2:8485;redhat-3:8485/mycluster</value>

</property>


<property>

<name>dfs.journalnode.edits.dir</name>

<value>/ysh/hadoop/dfs/journal</value>

</property>


<property>

<name>dfs.client.failover.proxy.provider.mycluster</name>

<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

</property>


<property>

<name>dfs.ha.automatic-failover.enabled</name>

<value>true</value>

</property>


<property>

<name>dfs.ha.fencing.methods</name>

<value>shell(/bin/true)</value>

</property>

其他配置文件和单namenode配置一样


3、修改完,启动zookeeper,到hadoop的bin目录下执行命令:./hdfs zkfc -formatZK


4、再启动journalnode,到hadoop的sbin目录下,命令如下:./hadoop-daemons.sh start journalnode


5、初始化其中一个namenode,命令如下:./hadoop namenode -format


6、同步2台namenode的name目录,用scp命令


7、启动hadoop集群,命令如下:./start-all.sh


8、hadoop配置ha模式,hbase的 hbase-site.xml的hbase.rootdir作如下修改:

参考:

<property>

<name>hbase.rootdir</name>

<value>hdfs://mycluster/hbase</value>

</property>


© 著作权归作者所有

共有 人打赏支持
晓阳
粉丝 9
博文 69
码字总数 52360
作品 0
徐汇
程序员
加载中

评论(2)

晓阳
晓阳
8、hadoop配置ha模式,hbase的 hbase-site.xml的hbase.rootdir作如下修改:

参考:

<property>

<name>hbase.rootdir</name>

<value>hdfs://mycluster/hbase</value>

</property>
这里有问题,需要将hadoop的配置文件拷贝到hbase的conf文件夹下,否则会报错unknownhostexcetpion
晓阳
晓阳
切记不要拷贝博客中的配置,我就因为拷贝导致一些错误,花了一些时间才解决,直接拷贝会因为格式问题导致一些错误
Hadoop HBase 配置 安装 Snappy 终极教程

原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 、作者信息和本声明。否则将追究法律责任。http://shitouer.cn/2013/01/hadoop-hbase-snappy-setup-final-tutorial/ 因为产...

Fowler.Zhang
2013/01/14
0
0
Sqoop数据导入到HBase遇上的问题及解决方法

  【IT168 技术】运行bin/sqoop import --connect jdbc:mysql://ip:port/database --username * --password **--hbase-bulkload --hbase-create-table --column-family info --hbase-row-k......

中国大数据
05/31
0
0
Hadoop,HBase 配置 安装 Snappy 终极教程

因为产品需要,这两天研究了一下Hadoop Snappy。先不说什么各个压缩算法之间的性能对比,单是这个安装过程,就很痛苦。网上有很多博友写Hadoop Snappy安装过程,大部分是照着Google的文档翻译...

木偶
2015/05/13
0
0
HBase RowKey设计的那些事

在说rowkey设计之前,先回答一下大家配置HBase时可能有的疑问,关于HBase是否需要单独的ZooKeeper托管?嗯,如果只是部署HBase,我建议不要用单独的ZooKeeper进行托管,用HBase自带的ZooKeep...

loki_lan
2015/07/13
0
8
搭建Zookeeper与Hbase过程及遇到的问题总结

我的经验是最好放在hadoop一块,这样可以做个全盘拷贝与管理。比如之前安装的hadoop在/usr/hadoop目录下,那就把这2个组件放在一块,比如统一放在:/usr/hadoop/...或 /home/hadoop/...这样以...

hanzhankang
2013/05/09
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

Zookeeper总结

Zookeeper的部分概念 什么是zookeeeper? Zookeeper是一个分布式服务的协调中心 zookeeper节点的角色类型? Leader(领导者)、Follower(跟随者)、Observer(观察者) Leader 负责更新系统...

DemonsI
14分钟前
0
0
Redis学习笔记

常用命令 从Docker进入Redis的命令 sudo docker exec -it redis /bin/bash

OSC_fly
15分钟前
0
0
SqlServer查询某个日期的数据

select * from View_ZJMONITORINGCORROSION where ENTERDATE > CONVERT(datetime,DATEADD(day,1,'2017/12/28 14:53:07'))...

笑丶笑
16分钟前
0
0
常用编码规范

Standard characters https://ascii.cl/

yeahlife
18分钟前
0
0
flannel实战

docker swarm mode的出现是个里程碑,官方原生的编排调度看起来都成雏形了,但是swarm mode和容器外部系统的对接、网络性能始终不尽人意,swarm mode下各种开源周边不能使用,感觉swarm mod...

China_OS
19分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部