文档章节

centos6.5 64位下编译hadoop2.5.1源码

逸风如梦
 逸风如梦
发布于 2014/11/15 01:33
字数 932
阅读 2664
收藏 13
点赞 0
评论 0

  1. 需要的工具:centos6.5 -64bit

     jdk1.7.0.71    

    maven3.23  (http://mirrors.cnnic.cn/apache/maven/maven-3/3.2.3/binaries/apache-maven-3.2.3-bin.tar.gz)

    ant1.9 (http://mirrors.cnnic.cn/apache//ant/binaries/apache-ant-1.9.4-bin.tar.gz)

    findbugs (http://cznic.dl.sourceforge.net/project/findbugs/findbugs/2.0.3/findbugs-2.0.3.tar.gz)

  2. 需要的软件:java, svn, autoconf, automake, libtool, ncurses-devel, openssl-devel, gcc, lzo-devel, zlib-devel, znt, maven, protobuf, cmake

     

    检测系统中是否已安装了某一软件命令:rpm -qa|grep 软件名,如检测系统中是否安装了svn:

    $ rpm -qa|grep svn

    在CentOS-x86_64位机器下编译hadoop-2.2.0源码

  3. 如果已安装,则跳过,如果没有安装,用命令:yum install svn进行安装,如:

    $ yum install svn

     

    如果yum命令安装失败(找不到相应的包),则需手动下载相应的软件包进行安装,比如maven, protobuf这两个个软件;

        接下需要首先去apach官网下载hadoop2.5.1源码包,并解压;之后安装jdk、maven、ant.详细步骤网上很多。


        问题导读:

        1.如果获取hadoop src  maven包?
        2.编译hadoop需要装哪些软件?
        3.如何编译hadoop2.4?
        扩展:
        编译hadoop为何安装这些软件?

        protobuf的安装
            为防止出错,这里补充一些内容,
                先安装g++

                sudo apt-get install g++

                centos 下:yum install gcc-c++

           下载 protobuf-2.5.0.tar.gz   网盘下载链接:http://pan.baidu.com/s/1dDgWe6P 密码:xgiu

         解压  tar zxvf protobuf-2.5.0.tar.gz 

            $ sudo ./configure 

            $ sudo make 

            $ sudo make check 

            $ sudo make install 

            $ sudo ldconfig 

            如果系统中已经存在了低版本的protobuf,并被识别出来,则进行如下设置

            修改环境变量:

            vi /etc/profile

           export LD_LIBRARY_PATH=~/protobuf-2.5.0 

         (LD_LIBRARY_PATH的这里,填写的是protobuf文件的位置

         source /etc/profile

        注意:配置/etc/profile,在虚拟机重启后,可能配置会失效,所以重启后,需要再次执行source操作。

        验证   protoc --version

 

      .安装openssl库

      sudo apt-get install libssl-dev  / yum install openssl

       CMake安装

       sudo apt-get install cmake /  sudo yum install cmake

       安装findbugs(选择安装)

$ wget http://prdownloads.sourceforge.net/findbugs/findbugs-2.0.3.tar.gz?download
$ sudo tar zxf findbugs-2.0.3.tar.gz -C /opt
$ sudo vim /etc/profile
export FINDBUGS_HOME=/opt/findbugs-2.0.3
export PATH=$PATH:$FINDBUGS_HOME/bin

验证:
[root@hadoop001 bin]# fb -version
2.0.3


进入src包执行编译命令

mvn package -Pdist,native -DskipTests -Dtar  --不生成文档

生成文档的还未试验

使用-Pdocs选项可以生成文档,当然前提是安装了Forrest Findbugs  可以参考如下命令手动指定:FORREST_HOMEFINDBUGS_HOME.

mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest  -Denv.FINDBUGS_HOME=/usr/local/findbugs

生成的文档在各自的target/site目录下.




记录:

jdk1.8下编译会有处理注释标签的问题。类似于一下问题:

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-javadoc-plugin:2.8.1:jar (module-javadocs) on project hadoop-annotations: MavenReportException: Error while creating archive:

[ERROR] Exit code: 1 - /home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-common-project/hadoop-annotations/src/main/java/org/apache/hadoop/classification/InterfaceStability.java:27: error: unexpected end tag: </ul>

解决:更换为jdk1.7



[ERROR] around Ant part ...<exec dir="/home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-common-project/hadoop-common/target/native" executable="cmake" failonerror="true">... @ 4:141 in /home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-common-project/hadoop-common/target/antrun/build-main.xml

解决:

yum -y install zlib-devel 

debian:apt-get install zlib1g-dev

yum -y install ncurses-devel

debian: apt-get install libncurses5-dev



[ERROR] around Ant part ...<exec dir="/home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-tools/hadoop-pipes/target/native" executable="cmake" failonerror="true">... @ 5:131 in /home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-tools/hadoop-pipes/target/antrun/build-main.xml

解决

yum install openssl-devel




© 著作权归作者所有

共有 人打赏支持
逸风如梦
粉丝 3
博文 16
码字总数 8761
作品 0
郑州
程序员
Centos6.5编译安装Nginx-1.6.2和简单配置

Nginx官方站点 http://nginx.org/cn/ tengine 淘宝基于nginx二次开发 http://tengine.taobao.org/ nginx已经附带memcache模块,可以管理缓存,而且支持平滑升级...... 系统Centos6.5_64位 rp...

雁南飞丶 ⋅ 2014/09/24 ⋅ 0

CentOS6.5下源码编译安装httpd2.4.23

1、安装环境为CentOS6.5,64位 [root@mylinux app]# uname -r2.6.32-504.30.3.el6.x86_64[root@mylinux app]# cat /etc/redhat-release CentOS release 6.5 (Final)[root@mylinux app]# 2、官......

技术小阿哥 ⋅ 2017/11/27 ⋅ 0

搭建简单的lamp环境

准备环境:操作系统:CentOS6.5 数据库:mysql-5.1.73 Apache:http-2.2.31 php:php-5.6.15 此例为CentOS6.5 x86_64位系统,下载三个源码包,并保存在/usr/local/src下 mysql:http://mirr...

射手Mr吴 ⋅ 2016/01/27 ⋅ 0

centos下安装cx_oracle 源码安装 64位

本次配置的环境:centos6.5 64位 需要的文件: instantclient-basic-linux-x86-64-11.2.0.2.0.zip instantclient-sdk-linux-x86-64-11.2.0.2.0.zip cx_Oracle-5.1.2.tar.gz 我把这三个文件放......

clear_path ⋅ 2016/12/10 ⋅ 0

linux 静默安装oracle11g

本例: 通过SSH远程连接云主机,上传oracle11g安装包,在centos6.5上无图形化界面静默安装oracle11g。 涉及工具及环境: 1、本地环境windows7+ssh远程连接工具xShell 2、远程云主机CentOS6.5...

lybb_lbb ⋅ 02/28 ⋅ 0

Nginx学习-环境搭建

本人是在32位win7下通过VMware安装64位CentOS6.5。因为WIN7是32位而CentOS是64位,所以在第一次安装CentOS时提示”CPU支持虚拟化技术,但该功能未打开“,此时需要重启电脑进入BIOS打开此项功...

秋-aKi ⋅ 2014/03/19 ⋅ 0

linux新手入门必看

linux运维工程师是目前IT行业是比较吃香的职业,很多人认为,缺口的,需求量大,工作一定很好找,薪资高,不错,Linux相关工作很好找,但是,薪资的高低更多的是取决于你所掌握的技术。那么,...

python入门 ⋅ 2017/12/11 ⋅ 0

在哪里报linux运维培训班更好找工作?薪资高

linux运维工程师是目前IT行业是比较吃香的职业,很多人认为,缺口的,需求量大,工作一定很好找,薪资高,不错,Linux相关工作很好找,但是,薪资的高低更多的是取决于你所掌握的技术。那么,...

运维自动化 ⋅ 2017/12/11 ⋅ 0

centos 6.5(centos7)下安装thrift 0.9.1详细教程

进行Thrift的最小化安装,在Centos 6.5 上下面的步骤必不可少. 我们给出从源代码编译Thrift的例子。这些介绍对Thrift0.9.2 的 releases版本同样有效。 更新系统 安装平台开发工具 升级autoc...

双月通天 ⋅ 2015/12/29 ⋅ 3

centos6.5 通过yum和源码两种方法升级安装内核

centos6.5 2.6.32 yum方式安装内核是安装的最新版内核,不能选择内核版本 源码方式安装可以选择内核版本进行安装,源码方式安装较慢。 yum方式升级内核: cd /etc/yum.repos.d/ 下载导入公钥 ...

行走的time ⋅ 04/17 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

oAuth2 升级Spring Cloud Finchley.RELEASE踩坑分享

背景 6.19号,spring团队发布了期待已久的 Spring Cloud Finchley.RELEASE 版本。 重要变化: 基于Spring Boot 2.0.X 不兼容 Spring Boot 1.5.X 期间踩过几个坑,分享出来给大伙,主要是关于...

冷冷gg ⋅ 36分钟前 ⋅ 0

OSChina 周一乱弹 —— 理发师小姐姐的魔法

Osc乱弹歌单(2018)请戳(这里) 【今日歌曲】 @冰冰棒- :分享田馥甄的单曲《My Love》 《My Love》- 田馥甄 手机党少年们想听歌,请使劲儿戳(这里) @Li-Wang :哎,头发又长了。。。又要...

小小编辑 ⋅ 今天 ⋅ 4

Kafka1.0.X_消费者API详解2

偏移量由消费者管理 kafka Consumer Api还提供了自己存储offset的功能,将offset和data做到原子性,可以让消费具有Exactly Once 的语义,比kafka默认的At-least Once更强大 消费者从指定分区...

特拉仔 ⋅ 今天 ⋅ 0

个人博客的运营模式能否学习TMALL天猫质量为上?

心情随笔|个人博客的运营模式能否学习TMALL天猫质量为上? 中国的互联网已经发展了很多年了,记得在十年前,个人博客十分流行,大量的人都在写博客,而且质量还不错,很多高质量的文章都是在...

原创小博客 ⋅ 今天 ⋅ 0

JavaScript零基础入门——(十一)JavaScript的DOM操作

JavaScript零基础入门——(十一)JavaScript的DOM操作 大家好,欢迎回到我们的JavaScript零基础入门。最近有些同学问我说,我讲的的比书上的精简不少。其实呢,我主要讲的是我在开发中经常会...

JandenMa ⋅ 今天 ⋅ 0

volatile和synchronized的区别

volatile和synchronized的区别 在讲这个之前需要先了解下JMM(Java memory Model :java内存模型):并发过程中如何处理可见性、原子性、有序性的问题--建立JMM模型 详情请看:https://baike.b...

MarinJ_Shao ⋅ 今天 ⋅ 0

深入分析Kubernetes Critical Pod(一)

Author: xidianwangtao@gmail.com 摘要:大家在部署Kubernetes集群AddOn组件的时候,经常会看到Annotation scheduler.alpha.kubernetes.io/critical-pod"="",以表示这是一个关键服务,那你知...

WaltonWang ⋅ 今天 ⋅ 0

原子性 - synchronized关键词

原子性概念 原子性提供了程序的互斥操作,同一时刻只能有一个线程能对某块代码进行操作。 原子性的实现方式 在jdk中,原子性的实现方式主要分为: synchronized:关键词,它依赖于JVM,保证了同...

dotleo ⋅ 今天 ⋅ 0

【2018.06.22学习笔记】【linux高级知识 14.4-15.3】

14.4 exportfs命令 14.5 NFS客户端问题 15.1 FTP介绍 15.2/15.3 使用vsftpd搭建ftp

lgsxp ⋅ 今天 ⋅ 0

JeeSite 4.0 功能权限管理基础(Shiro)

Shiro是Apache的一个开源框架,是一个权限管理的框架,实现用户认证、用户授权等。 只要有用户参与一般都要有权限管理,权限管理实现对用户访问系统的控制,按照安全规则或者安全策略控制用户...

ThinkGem ⋅ 昨天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部