文档章节

【互动问答分享】第8期决胜云计算大数据时代Spark亚太研究院公益大讲堂

Spark亚太研究院
 Spark亚太研究院
发布于 2014/08/21 11:03
字数 739
阅读 217
收藏 0

“决胜云计算大数据时代”

Spark亚太研究院100期公益大讲堂 【第8期互动问答分享】

 

Q1:spark线上用什么版本好?

  • 建议从最低使用的Spark 1.0.0版本,Spark在1.0.0开始核心API已经稳定;

  • 从功能的角度考虑使用最新版本的Spark 1.0.2也是非常好的,Spark 1.0.2在Spark 1.0.1的基础上做了非常多的改进;

  • Spark 1.0.2改进参考 http://spark.apache.org/releases/spark-release-1-0-2.html

 

Q2:希望可以细细讲讲推荐系统

  • 推荐系统是机器学习中主要用武之地,Spark亚太研究院决胜大数据时代100期公益大讲堂后续会至少开设三期专题细细讲解;

 

Q3:用yarn  mesos  standalone   这几种方式那种用在线上好?spark线上用什么版本好?

  • 如果以前没有部署过其它的大数据集群,集群中的计算框架只有Spark,建议直接使用Standalone,简洁而高效,这样有利于获得最大化的集群执行效率;

  • 如果集群中在运行Spark计算平台的同时还运行了Hadoop的MapReduce、Storm等其它框架,建议使用mesos或者yarn;

  • 在中国建议使用Yarn,因为淘宝已经在生产环境下大规模的使用了Yarn,同时Yarn有非常的中文资料;

 

Q4:机器学习是不是需要很深的数学功底还是别人实现了 能运行跑起来就ok啦??

  • Spark的MLLib极大的简化了机器学习库的使用,如果只是简单的使用,不要数学功底,只需要按照官方的示例直接使用即可。

  • 如果进行复制的算法实现,需要数学功底,例如线性代数、统计学等

 

Q5:还是要深入学习机器学习的那些算法?

  • 从实际应用的角度考虑,最重要的机器学习算法时协同过滤,基于协同过滤的推荐系统在应用系统中有广泛的应用,需要最为第一重点掌握;

  • 分类、聚类、线性回归等也是非常常用而重要的;

     

Q6:请教下,如果目前应用主要是结构化数据的ORCALE,语言是PLSQL,转换到SPARKSQL是否难度很大,需要完全代码重写呢?

  • 在实际生产环境下,数据和大数据系统是并行存在的,数据库一般直接负责线上交互,大数据系统负责数据分析、实时流处理、交互式查询等;

  • 如果熟练使用PLSQL,可以轻而易举的掌握Spark SQL

  • Spark SQL的内容可以参考http://edu.51cto.com/lesson/id-33429.html

 

© 著作权归作者所有

Spark亚太研究院
粉丝 76
博文 73
码字总数 35236
作品 0
朝阳
技术主管
私信 提问
【互动问答分享】第10期决胜云计算大数据时代Spark亚太研究院公益大讲堂

“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第10期互动问答分享】 Q1:Spark on Yarn的运行方式是什么? Spark on Yarn的运行方式有两种:Client和Cluster模式 Client模式如...

Spark亚太研究院
2014/09/04
253
0
【互动问答分享】第13期决胜云计算大数据时代Spark亚太研究院公益大讲堂

“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第13期互动问答分享】 Q1:tachyon+spark框架现在有很多大公司在使用吧? Yahoo!已经在长期大规模使用; 国内也有公司在使用; ...

Spark亚太研究院
2014/09/24
135
0
【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂

“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第17期互动问答分享】 Q1:为了加快spark shuffle 的执行速度是否可以把sparklocaldirs 指向一块固态硬盘上面,这样做是否有效果...

Spark亚太研究院
2014/10/17
195
0
【互动问答分享】第12期决胜云计算大数据时代Spark亚太研究院公益大讲堂

“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第12期互动问答分享】 Q1:jobserver 企业使用情况如何? 中国有一家视频网站已经使用超过JobServer超过半年的时间; 2013年和2...

Spark亚太研究院
2014/09/19
181
1
【互动问答分享】第15期决胜云计算大数据时代Spark亚太研究院公益大讲堂

“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第15期互动问答分享】 Q1:AppClient和worker、master之间的关系是什么? :AppClient是在StandAlone模式下SparkContext.runJob...

Spark亚太研究院
2014/10/08
128
0

没有更多内容

加载失败,请刷新页面

加载更多

Spring AOP-06-切入点类型

切入点是匹配连接点的拦截规则。之前使用的是注解@Pointcut,该注解是AspectJ中的。除了这个注解之外,Spring也提供了其他一些切入点类型: • 静态方法切入点StaticMethodMatcherPointcut •...

moon888
昨天
90
0
Class Loaders in Java

1. Introduction to Class Loaders Class loaders are responsible for loading Java classes during runtime dynamically to the JVM (Java Virtual Machine). Also, they are part of the ......

Ciet
昨天
68
0
以Lazada为例,看电商系统架构演进

什么是Lazada? Lazada 2012年成立于新加坡,是东南亚第一电商,2016年阿里投资10亿美金,2017年完成对lazada的收购。 业务模式上Lazada更偏重自营,类似于亚马逊,自建仓储和为商家提供服务...

春哥大魔王的博客
昨天
60
0
【自用】 Flutter Timer 简单用法

dart: void _startTime() async { _timer = Timer(Duration(seconds: sec), () { fun(xxx,yyy,zzz); }); } @override void dispose() { _timer.cancel()......

Tensor丨思悟
昨天
65
0
计算机实现原理专题--自动化(六)

目前实现的加减法器可以扩充到更高位宽的数值范围,不仅可以实现连续n个数的相加减,还可以实现其中几个数的相加减,并保存相应的结果。但是还不能应对某些场景,例如需要复用中间的临时结果...

FAT_mt
昨天
58
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部