文档章节

hadoop安装配置遇到的几个问题

Nob
 Nob
发布于 2014/11/01 16:26
字数 583
阅读 42
收藏 0

使用环境:

ubuntu14.04  64位系统

java7

hadoop 2.4.1


几个注意点

1、下载hadoop官网链接不可用,所以在开源中国下载

2、在下列场合务必使用同一个linux帐号权限下操作,我由于习惯与sudo创建配置文件和进行操作,出现一些问题

  • 格式化hdfs

  • ssh无密码登录帐号

  • 新建编辑配置文件

  • 启动hadoop等

3、hadoop要小心版本差异所带来的问题,选择适当的教材,比如hadoop1.x和2.x相比,2.x没有JobTracker和TaskTracker


几个问题:

问题1、localhost: Error: JAVA_HOME is not set and could not be found.

    修改hadoop目录下/hadoop/etc/hadoop/hadoop-env.sh中的 $JAVA_HOME为绝对路径

# The java implementation to use.
#export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/lib/jvm/java7


问题2、出现本地库无法导入,据说是64位机器会出现

    错误如下:

This script is Deprecated. Instead use stop-dfs.sh and stop-yarn.sh  
14/08/10 07:07:57 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable  
Stopping namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.  
It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'.  
cluster1]  
sed: -e expression #1, char 6: unknown option to `s'  
-c: Unknown cipher type 'cd'  
^Ccluster1: stopping namenode  
cluster1: stopping datanode  
VM: ssh: Could not resolve hostname VM: Name or service not known  
stack: ssh: Could not resolve hostname stack: Name or service not known

   解决办法,在hadoop-env.sh修改如下变量,我直接是加在文件末尾

export HADOOP_HOME=/data/server/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"


问题3、sbin/start-all.sh启动时只有jps只有一个NodeManager问题?

nob@hadoop0:/data/server/hadoop/sbin$ jps
9922 NodeManager
10236 Jps

 原因:我格式化hdfs的时候使用了超级管理员sudo命令,启动的时候用户权限不一致


问题4、sbin/start-all.sh 启动后使用jps查看没有JobTracker和TaskTracker?

nob@hadoop0:/data/server/hadoop/sbin$ jps
9444 DataNode
9922 NodeManager
9633 SecondaryNameNode
9790 ResourceManager
9291 NameNode
10236 Jps

   原因是: hadoop-2.x版本中不存在JobTracker和TaskTracker,楼主可以参考博客 http://blog.csdn.net/skywalker_only/article/details/37905463,启动NameNode和DataNode的命令为start-dfs.sh,启动yarn的命令为start-yarn.sh。


[参考文献]

 官方文档 http://hadoop.apache.org/docs/r1.0.4/cn/quickstart.html#PseudoDistributed 

  Hadoop-2.4.1学习之以伪分布模式部署Hadoop http://blog.csdn.net/skywalker_only/article/details/37905463 

© 著作权归作者所有

共有 人打赏支持
Nob

Nob

粉丝 17
博文 86
码字总数 58473
作品 0
东城
个人站长
【Hadoop】hiveserver2 不能启动端口 10000 开启服务的相关经验总结

原创文章,转载请标注来自http://blog.csdn.net/lsttoy/article/details/53490144。 这个问题困扰了我三天,各种查资料踩坑填坑的尝试,终于搞定了这个问题。 首先来品尝下喜悦! OK,言归正传...

lsttoy
2016/12/06
0
0
Hadoop启动不了Namenode进程,出现IllegalArgumentException异常

这次的问题乍看起来很奇怪,在本机完成配置启动Hadoop的时候,首先,我们需要对namenode进行format,但是在执行了命令之后,却出现了如下的异常:FATAL namenode.NameNode: Exception in nam...

天下杰论
2015/07/13
0
0
零基础学习hadoop到上手工作线路指导(编程篇)

问题导读: 1.hadoop编程需要哪些基础? 2.hadoop编程需要注意哪些问题? 3.如何创建mapreduce程序及其包含几部分? 4.如何远程连接eclipse,可能会遇到什么问题? 5.如何编译hadoop源码? ...

一枚Sir
2014/08/07
787
0
Linux下安装Hadoop(2.7.1)详解及WordCount运行

一、引言   在完成了Storm的环境配置之后,想着鼓捣一下Hadoop的安装,网上面的教程好多,但是没有一个特别切合的,所以在安装的过程中还是遇到了很多的麻烦,并且最后不断的查阅资料,终于...

oO维尼熊Oo
05/03
0
0
windows eclipse远程连接hadoop集群并提交任务运行

1 下载插件 hadoop-eclipse-plugin-2.5.1.jar 从网上下载对应版本的插件,http://download.csdn.net/detail/tondayong1981/7920973 2 配置插件 把插件放到..eclipseplugins目录下,重启eclip...

张欢19933
2016/02/25
506
0

没有更多内容

加载失败,请刷新页面

加载更多

学习设计模式——中介者模式

1. 认识中介者模式 1. 定义:用一个中介对象来封装一系列的对象交互行为,中介者使得各对象不需要显式的互相引用,从而使其松散耦合,独立的改变他们之间的交互。 2. 结构: Mediator:中介者...

江左煤郎
12分钟前
0
0
深入理解Plasma(1):Plasma 框架

这一系列文章将围绕以太坊的二层扩容框架,介绍其基本运行原理,具体操作细节,安全性讨论以及未来研究方向等。本篇文章作为开篇,主要目的是理解 Plasma 框架。 Plasma 作为以太坊的二层扩容...

HiBlock
19分钟前
0
0
Java 8 日期 示例

Java 8 推出了全新的日期时间API。Java处理日期、日历和时间的方式一直为社区所诟病,将 java.util.Date设定为可变类型,以及SimpleDateFormat的非线程安全使其应用非常受限。Java也意识到需...

阿刚ABC
45分钟前
1
0
RxJava操作符lift 笔记

在内部,每个Rx operator都做3件事: 它订阅源并观察值。 它根据操作员的目的转换观察到的序列。 它通过调用onNext,onError和onCompleted将修改后的序列推送到自己的订阅者。 compose运算符...

woshixin
46分钟前
1
0
lnmp+coreseek实现站内全文检索(安装篇)

软件安装包 安装环境 系统环境 centos7.2 1核2G 软件环境 coreseek-3.2.14 lnmp1.5 安装mmseg 更新依赖包和安装编译环境 yum -y install m4 autoconf automake libtoolyum -y install gcc g...

毛毛雨rain
58分钟前
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部