文档章节

hadoop安装配置遇到的几个问题

Nob
 Nob
发布于 2014/11/01 16:26
字数 583
阅读 70
收藏 0

使用环境:

ubuntu14.04  64位系统

java7

hadoop 2.4.1


几个注意点

1、下载hadoop官网链接不可用,所以在开源中国下载

2、在下列场合务必使用同一个linux帐号权限下操作,我由于习惯与sudo创建配置文件和进行操作,出现一些问题

  • 格式化hdfs

  • ssh无密码登录帐号

  • 新建编辑配置文件

  • 启动hadoop等

3、hadoop要小心版本差异所带来的问题,选择适当的教材,比如hadoop1.x和2.x相比,2.x没有JobTracker和TaskTracker


几个问题:

问题1、localhost: Error: JAVA_HOME is not set and could not be found.

    修改hadoop目录下/hadoop/etc/hadoop/hadoop-env.sh中的 $JAVA_HOME为绝对路径

# The java implementation to use.
#export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/lib/jvm/java7


问题2、出现本地库无法导入,据说是64位机器会出现

    错误如下:

This script is Deprecated. Instead use stop-dfs.sh and stop-yarn.sh  
14/08/10 07:07:57 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable  
Stopping namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.  
It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'.  
cluster1]  
sed: -e expression #1, char 6: unknown option to `s'  
-c: Unknown cipher type 'cd'  
^Ccluster1: stopping namenode  
cluster1: stopping datanode  
VM: ssh: Could not resolve hostname VM: Name or service not known  
stack: ssh: Could not resolve hostname stack: Name or service not known

   解决办法,在hadoop-env.sh修改如下变量,我直接是加在文件末尾

export HADOOP_HOME=/data/server/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"


问题3、sbin/start-all.sh启动时只有jps只有一个NodeManager问题?

nob@hadoop0:/data/server/hadoop/sbin$ jps
9922 NodeManager
10236 Jps

 原因:我格式化hdfs的时候使用了超级管理员sudo命令,启动的时候用户权限不一致


问题4、sbin/start-all.sh 启动后使用jps查看没有JobTracker和TaskTracker?

nob@hadoop0:/data/server/hadoop/sbin$ jps
9444 DataNode
9922 NodeManager
9633 SecondaryNameNode
9790 ResourceManager
9291 NameNode
10236 Jps

   原因是: hadoop-2.x版本中不存在JobTracker和TaskTracker,楼主可以参考博客 http://blog.csdn.net/skywalker_only/article/details/37905463,启动NameNode和DataNode的命令为start-dfs.sh,启动yarn的命令为start-yarn.sh。


[参考文献]

 官方文档 http://hadoop.apache.org/docs/r1.0.4/cn/quickstart.html#PseudoDistributed 

  Hadoop-2.4.1学习之以伪分布模式部署Hadoop http://blog.csdn.net/skywalker_only/article/details/37905463 

© 著作权归作者所有

Nob

Nob

粉丝 19
博文 87
码字总数 58773
作品 0
东城
个人站长
私信 提问
Hadoop启动不了Namenode进程,出现IllegalArgumentException异常

这次的问题乍看起来很奇怪,在本机完成配置启动Hadoop的时候,首先,我们需要对namenode进行format,但是在执行了命令之后,却出现了如下的异常:FATAL namenode.NameNode: Exception in nam...

天下杰论
2015/07/13
652
0
【Hadoop】hiveserver2 不能启动端口 10000 开启服务的相关经验总结

原创文章,转载请标注来自http://blog.csdn.net/lsttoy/article/details/53490144。 这个问题困扰了我三天,各种查资料踩坑填坑的尝试,终于搞定了这个问题。 首先来品尝下喜悦! OK,言归正传...

lsttoy
2016/12/06
0
0
零基础学习hadoop到上手工作线路指导(编程篇)

问题导读: 1.hadoop编程需要哪些基础? 2.hadoop编程需要注意哪些问题? 3.如何创建mapreduce程序及其包含几部分? 4.如何远程连接eclipse,可能会遇到什么问题? 5.如何编译hadoop源码? ...

一枚Sir
2014/08/07
903
0
windows eclipse远程连接hadoop集群并提交任务运行

1 下载插件 hadoop-eclipse-plugin-2.5.1.jar 从网上下载对应版本的插件,http://download.csdn.net/detail/tondayong1981/7920973 2 配置插件 把插件放到..eclipseplugins目录下,重启eclip...

张欢19933
2016/02/25
688
0
搭建Zookeeper与Hbase过程及遇到的问题总结

我的经验是最好放在hadoop一块,这样可以做个全盘拷贝与管理。比如之前安装的hadoop在/usr/hadoop目录下,那就把这2个组件放在一块,比如统一放在:/usr/hadoop/...或 /home/hadoop/...这样以...

hanzhankang
2013/05/09
2.3W
0

没有更多内容

加载失败,请刷新页面

加载更多

OSChina 周四乱弹 —— 水果你们都没吃全

Osc乱弹歌单(2020)请戳(这里) 【今日歌曲】 @ 莱布妮子:分享五月天的单曲《温柔》@小小编辑 @cIouddyy @clouddyy 《温柔》- 五月天 手机党少年们想听歌,请使劲儿戳(这里) @FalconChe...

小小编辑
30分钟前
91
1
聚合支付网站被黑客攻击 导致数据库被篡改的防御办法

2020春节即将来临,收到新聚合支付平台网站客户的求助电话给我们Sinesafe,反映支付订单状态被修改由原先未支付修改为已支付,导致商户那边直接发货给此订单会员了,商户和平台的损失较大,很多码...

网站安全
昨天
63
0
MySQL-基于SELECT查询的UPDATE查询

我需要检查(从同一张表)基于日期时间的两个事件之间是否存在关联。 一组数据将包含某些事件的结束日期时间,另一组数据将包含其他事件的开始日期时间。 如果第一个事件在第二个事件之前完成...

javail
昨天
70
0
将PostgreSQL数据库复制到另一台服务器

我正在将生产PostgreSQL数据库复制到开发服务器。 什么是最快,最简单的方法? #1楼 pg_dump the_db_name > the_backup.sql 然后将备份复制到您的开发服务器,并使用以下命令进行还原: ps...

技术盛宴
昨天
130
0
[译]软件架构师之路

今天给大家带来一篇自己翻译的干货《软件架构师之路》。本周Github上升很快的项目。其内容对致力于成为软件架构师(不论前后端)的同学应该都会有极大的帮助。 项目地址: 中文地址 https://...

gamedilong
昨天
79
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部