文档章节

1.hadoop的伪分布安装(CentOS)

段英杰
 段英杰
发布于 2014/03/04 14:45
字数 408
阅读 209
收藏 2

1.hadoop的伪分布安装

1.1 设置ip地址

    执行命令 service network restart

    验证: ifconfig

1.2 关闭防火墙

    执行命令 service iptables stop

    验证: service iptables status

1.3 关闭防火墙的自动运行

    执行命令 chkconfig iptables off

    验证: chkconfig --list | grep iptables

1.4 设置主机名

    执行命令

        (1)hostname hadoop

        (2)vi /etc/sysconfig/network

1.5 ip与hostname绑定

    执行命令 vi /etc/hosts

    验证: ping hadoop

1.6 设置ssh免密码登陆

    执行命令 

        (1)ssh-keygen -t rsa

        (2)cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

    验证: ssh hadoop

1.7 安装jdk

    执行命令

        (1)cd /usr/local

        (2)chmod u+x jdk-6u24-linux-i586.bin                

        (3)./jdk-6u24-linux-i586.bin                

        (4)mv jdk-1.6.0_24  jdk                

        (5)vi /etc/profile 增加内容如下:                

            export JAVA_HOME=/usr/local/jdk

            export PATH=.:$JAVA_HOME/bin:$PATH                

        (6)source /etc/profile                

    验证: java -version

1.8 安装hadoop

    执行命令

        (1)tar -zxvf hadoop-1.1.2.tar.gz

        (2)mv hadoop-1.1.2 hadoop

        (3)vi /etc/profile 增加内容如下:

            export JAVA_HOME=/usr/local/jdk

            export HADOOP_HOME=/usr/local/hadoop

           export PATH=.:$HADOOP_HOME/bin:$JAVA_HOME/bin:$PATH

     (4)source /etc/profile

     (5)修改conf目录下的配置文件hadoop-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml

            1.hadoop-env.sh  export JAVA_HOME=/usr/local/jdk/

            2.core-site.xml 

    <configuration>
        <property>
            <name>fs.default.name</name>
            <value>hdfs://hadoop:9000</value>
        </property>
        <property>
            <name>hadoop.tmp.dir</name>
            <value>/usr/local/hadoop/tmp</value>
        </property>
    </configuration>

            3.hdfs-site.xml

    <configuration>
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
        <property>
             <name>dfs.permissions</name>
             <value>false</value>
        </property>
    </configuration>

        4.mapred-site.xml

    <configuration>    
        <property>
            <name>mapred.job.tracker</name>
            <value>hadoop:9001</value>
        </property>
    </configuration>

    (6)hadoop namenode -format

    (7)start-all.sh

        验证:

            (1)执行命令jps 如果看到5个新的java进程,分别是NameNode、SecondaryNameNode、DataNode、JobTracker、TaskTracker

            (2)在浏览器查看,http://hadoop:50070  http://hadoop:50030  

1.9 启动时没有NameNode的可能原因:

     (1)没有格式化

     (2)环境变量设置错误

     (3)ip与hostname绑定失败

© 著作权归作者所有

段英杰
粉丝 2
博文 3
码字总数 893
作品 0
丰台
程序员
私信 提问
HADOOP单机系统安装

一.安装和配置JDK 1.HADOOP是以JAVA语言写成的,需要预先在本地计算机上安装JDK,由于直接使用wget不能绕过ORACLE的网站验证,可以使用下面代码下载。 wget --no-cookies --no-check-certifi...

clgo
2016/01/10
26
0
Spark2.0.0伪分布安装教程

Spark2.0.0伪分布安装教程 1.引言 Spark是专为大规模数据处理而设计的快速通用的计算引擎。Spark拥有MapReduce所具有的优点;但不同于MapReduce的是——中间输出结果可以保存在内存中,从而不...

Liri
2017/12/13
0
0
HBase1.2.6伪分布安装教程

1.引言 HBase是一个分布式的、面向列的开源数据库,HBase是建立Hadoop领域的数据库。HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。在本篇博客中主要介绍如何安装H...

Liri
2017/12/11
0
0
VirtualBox、CentOS 6.4、Hadoop、Hive玩起

1 安装VirtualBox: VirtualBox是一款开源免费的并且非常强大的虚拟机软件,同时支持X86和AMD64/Intel64,可以在多个操作系统平台上运行。与同性质的VMWare和Virtual PC比较,VirtualBox独到...

smile_zjw
2013/11/26
1.6K
1
(5)Centos6.X安装FastDFS(伪分布)

1.什么是 是用c语言编写的一款开源的分布式文件系统。为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用很容易搭建一套高性能的文件服务器...

LoveCarpenter
2017/08/17
0
0

没有更多内容

加载失败,请刷新页面

加载更多

MySQL-基于SELECT查询的UPDATE查询

我需要检查(从同一张表)基于日期时间的两个事件之间是否存在关联。 一组数据将包含某些事件的结束日期时间,另一组数据将包含其他事件的开始日期时间。 如果第一个事件在第二个事件之前完成...

javail
47分钟前
60
0
将PostgreSQL数据库复制到另一台服务器

我正在将生产PostgreSQL数据库复制到开发服务器。 什么是最快,最简单的方法? #1楼 pg_dump the_db_name > the_backup.sql 然后将备份复制到您的开发服务器,并使用以下命令进行还原: ps...

技术盛宴
今天
39
0
[译]软件架构师之路

今天给大家带来一篇自己翻译的干货《软件架构师之路》。本周Github上升很快的项目。其内容对致力于成为软件架构师(不论前后端)的同学应该都会有极大的帮助。 项目地址: 中文地址 https://...

gamedilong
今天
41
0
聊聊artemis的ExpiryScanner

序 本文主要研究一下artemis的ExpiryScanner startExpiryScanner activemq-artemis-2.11.0/artemis-server/src/main/java/org/apache/activemq/artemis/core/postoffice/impl/PostOfficeImpl......

go4it
今天
51
0
MySQL概述

MySql主要概念 参考:https://snailclimb.gitee.io/javaguide/#/database/MySQL MySQL 是一种关系型数据库,在Java企业级开发中非常常用,因为 MySQL 是开源免费的,并且方便扩展。阿里巴巴数...

Las_Vegas
今天
42
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部