文档章节

spark-1.2.0 集群环境搭建

stark_summer
 stark_summer
发布于 2015/01/06 17:20
字数 846
阅读 94
收藏 2

#程序员薪资揭榜#你做程序员几年了?月薪多少?发量还在么?>>>

1、下载scala2.11.4版本 下载地址为:http://www.scala-lang.org/download/2.11.4.html ,也可以使用wget http://downloads.typesafe.com/scala/2.11.4/scala-2.11.4.tgz?_ga=1.248348352.61371242.1418807768 

2、解压和安装: 解压 :[spark@S1PA11 scala]$ tar -xvf scala-2.11.4.tgz  ,安装:[spark@S1PA11 scala]$ mv scala-2.11.4 ~/opt/

3、编辑 ~/.bash_profile文件 增加SCALA_HOME环境变量配置,

export JAVA_HOME=/home/spark/opt/java/jdk1.6.0_37
export CLASSPATH=.:$JAVA_HOME/jre/lib:$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar
export SCALA_HOME=/home/spark/opt/scala-2.11.4
export HADOOP_HOME=/home/spark/opt/hadoop-2.6.0
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:${SCALA_HOME}/bin

立即生效 bash_profile  ,[spark@S1PA11 scala]$ source ~/.bash_profile 

4、验证scala:[spark@S1PA11 scala]$ scala -version
Scala code runner version 2.11.4 -- Copyright 2002-2013, LAMP/EPFL

[spark@S1PA11 scala]$ scala
Welcome to Scala version 2.11.4 (Java HotSpot(TM) 64-Bit Server VM, Java 1.6.0_37).
Type in expressions to have them evaluated.
Type :help for more information.

scala> var str = "SB is"+"SB"
str: String = SB isSB

scala> 


5、copy到slave机器 ,[spark@S1PA11 scala]$ scp  ~/.bash_profile  spark@10.126.45.56:~/.bash_profile 

6、下载spark,wget http://d3kbcqa49mib13.cloudfront.net/spark-1.2.0-bin-hadoop2.4.tgz

7、在master主机配置spark :

将下载的spark-1.2.0-bin-hadoop2.4.tgz 解压到 ~/opt/目前了即 ~/opt/spark-1.2.0-bin-hadoop2.4,配置环境变量SPARK_HOME

# set  java env
export JAVA_HOME=/home/spark/opt/java/jdk1.6.0_37
export CLASSPATH=.:$JAVA_HOME/jre/lib:$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar
export SCALA_HOME=/home/spark/opt/scala-2.11.4
export HADOOP_HOME=/home/spark/opt/hadoop-2.6.0
export SPARK_HOME=/home/spark/opt/spark-1.2.0-bin-hadoop2.4
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:${SCALA_HOME}/bin:${SPARK_HOME}/bin:${HADOOP_HOME}/bin

配置完成后使用source命令使配置生效

进入 spark conf目录:

[spark@S1PA11 opt]$ cd spark-1.2.0-bin-hadoop2.4/
[spark@S1PA11 spark-1.2.0-bin-hadoop2.4]$ ls
bin  conf  data  ec2  examples  lib  LICENSE  logs  NOTICE  python  README.md  RELEASE  sbin  work
[spark@S1PA11 spark-1.2.0-bin-hadoop2.4]$ cd conf/
[spark@S1PA11 conf]$ ls
fairscheduler.xml.template  metrics.properties.template  slaves.template               spark-env.sh
log4j.properties.template   slaves                       spark-defaults.conf.template  spark-env.sh.template

first :修改slaves文件,增加两个slave节点S1PA11、S1PA222

[spark@S1PA11 conf]$ vi slaves
S1PA11
S1PA222

second:配置spark-env.sh

首先把spark-env.sh.template copy spark-env.sh

vi spark-env.sh文件 在最下面增加:

export JAVA_HOME=/home/spark/opt/java/jdk1.6.0_37
export SCALA_HOME=/home/spark/opt/scala-2.11.4
export SPARK_MASTER_IP=10.58.44.47
export SPARK_WORKER_MEMORY=2g
export HADOOP_CONF_DIR=/home/spark/opt/hadoop-2.6.0/etc/hadoop

HADOOP_CONF_DIR是Hadoop配置文件目录,SPARK_MASTER_IP主机IP地址,SPARK_WORKER_MEMORY是worker使用的最大内存

完成配置后,将spark目录copy slave机器 scp -r ~/opt/spark-1.2.0-bin-hadoop2.4  spark@10.126.45.56:~/opt/

8、启动spark分布式集群并查看信息

[spark@S1PA11 sbin]$ ./start-all.sh 

查看:

[spark@S1PA11 sbin]$ jps
31233 ResourceManager
27201 Jps
30498 NameNode
30733 SecondaryNameNode
5648 Worker
5399 Master

15888 JobHistoryServer
如果HDFS没有启动 ,请启动起来,参考hadoop集群搭建点击打开链接

查看slave节点:

[spark@S1PA222 scala]$ jps
20352 Bootstrap
30737 NodeManager
7219 Jps
30482 DataNode
29500 Bootstrap
757 Worker

9、页面查看集群状况:

进去spark集群的web管理页面,访问


因为我们 看到两个worker节点,因为master和slave都是worker节点

我们进入spark的bin目录,启动spark-shell控制台


现在我们已经顺利进入spark-shell的世界了 ,O(∩_∩)O

访问http://master:4040/,我们可以看到spark WEBUI页面



到目前为止,我们的spark集群环境搭建成功了

10、运行spark-shell 测试

之前我们在/tmp目录上传了一个README.txt文件,我们现在就用spark读取hdfs中README.txt文件


取得hdfs文件:

count下READM.txt文件中文字总数,


我们过滤README.txt

包括The单词有多个


 


我们算出来 一共有4个The单词


我们通过wc也算出来有4个The单词

我们再实现下Hadoop wordcount功能:

首先对读取的readmeFile执行以下命令:


其次使用collect命令提交并执行job:




我们看下WEBUI界面执行效果:







OK,完成所有任务,(*^__^*) spark-1.2.0 集群环境搭建

© 著作权归作者所有

stark_summer
粉丝 61
博文 75
码字总数 51050
作品 0
朝阳
CEO
私信 提问
加载中

评论(2)

stark_summer
stark_summer 博主

引用来自“iman123”的评论

楼主辛苦了,是不是只要在master主机(S1PA11)上安装配置Spark+Hadoop;在slave主机(S1PA11)安装Spark,不需要Hadoop。最后在master主机上启动spark sbin中的start-all就可以启动master、slave的hadoop和spark了?
slave也需要安装Hadoop,Hadoop要单独启动的
iman123
iman123
楼主辛苦了,是不是只要在master主机(S1PA11)上安装配置Spark+Hadoop;在slave主机(S1PA11)安装Spark,不需要Hadoop。最后在master主机上启动spark sbin中的start-all就可以启动master、slave的hadoop和spark了?
搭建hadoop/spark集群环境

hadoop2.5.2的安装可以参照 http://my.oschina.net/sucre/blog/700159 jdk下载地址 http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html hadoop下载地址 ......

sucre
2014/12/25
7.4K
0
spark1.2.0版本搭建伪分布式环境

、下载scala2.11.5版本,下载地址为:http://www.scala-lang.org/download/2.11.5.html 2、安装和配置scala: 第一步:上传scala安装包 并解压 第二步 配置SCALAHOME环境变量到bashprofile 第...

stark_summer
2015/02/09
338
2
如何使用Spark SQL 的JDBC server

简介 Spark SQL provides JDBC connectivity, which is useful for connecting business intelligence (BI) tools to a Spark cluster and for sharing a cluster across multipleusers. The......

cloud-coder
2015/06/17
8.7K
0
spark集群搭建(三台虚拟机)——spark集群搭建(5)

!!!该系列使用三台虚拟机搭建一个完整的spark集群,集群环境如下: virtualBox5.2、Ubuntu14.04、securecrt7.3.6_x64英文版(连接虚拟机) jdk1.7.0、hadoop2.6.5、zookeeper3.4.5、Scala...

osc_5qpsci0d
2018/08/13
8
0
spark集群安装并集成到hadoop集群

前言   最近在搞hadoop+spark+python,所以就搭建了一个本地的hadoop环境,基础环境搭建地址hadoop2.7.7 分布式集群安装与配置   本篇博客主要说明,如果搭建spark集群并集成到hadoop 安装流...

osc_869quh0r
2019/07/24
7
0

没有更多内容

加载失败,请刷新页面

加载更多

动态获取方法参数的坑

问题 问题的背景: 由于springcache并不是很好用,并不针对细粒度的过期时间控制。所以我司基于spel表达式写了一个缓存切面实现类似的功能。 但近期发现在使用过程中有产生缓存的时候key为n...

陈年之后是青葱
55分钟前
30
0
Springboot项目使用xjar加密jar包

在pom文件中加入 plugins下 <!--jar文件加密,防止反编译--> <plugin> <groupId>com.github.core-lib</groupId> <artifactId>......

abowu
今天
33
0
QQ音乐下载的歌曲怎么转换MP3?音频转换格式详细教程

QQ音乐下载的歌曲怎么转换MP3?很多小伙伴们或多或少使用过QQ音乐,对比其他音乐平台,它不仅可以播放歌曲,还能随时随地下载喜欢的歌。在QQ音乐中,歌曲的格式有APE、FLAC等。那在QQ音乐上下...

开源312
今天
21
0
Git——如何将本地项目提交至远程仓库(第一次)

1.(先进入项目文件夹)通过命令 git init 把这个目录变成git可以管理的仓库。 git init 2.把文件添加到版本库中,使用命令 git add .添加到暂存区里面去,不要忘记后面的小数点“.”,意为添...

Apache软件基金会主席
今天
38
0
关于服务器系统的安全漏洞排查

关于服务器系统的安全漏洞排查 无论租用服务器的是企业还是个人,无论是单纯建站还是业务交易,服务器的网络安全还是备受关注的,关于网络安全问题还是要多了解多预防,下面就跟大家介绍几个...

一百米之外
今天
33
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部