【互动问答分享】第17期决胜云计算大数据时代Spark亚太研究院公益大讲堂

原创
2014/10/17 16:46
阅读数 416

 

“决胜云计算大数据时代”

Spark亚太研究院100期公益大讲堂 【第17期互动问答分享】

 

Q1:为了加快spark shuffle 的执行速度是否可以把spark_local_dirs 指向一块固态硬盘上面,这样做是否有效果。

  • 可以把spark_local_dirs指向一块固态硬盘上面,这样会非常有效的提升Spark执行速度;

  • 同时想更快的提升Spark运行速度的话可以指定多个Shuffle输出的目录,让Shuffle并行读写磁盘;

Q2:solidation=true只是在同一机器上进行合并对吧

  • solidation=true是在同一台机器上进行合并;

  • 当进行合并的时候会把属于同一个Reducer的bucket放入同一个文件,这回极大的减少Shuffler文件的数量,提升性能;

Q3:未来spark与hadoop会共存吗

  • Spark和hadoop会共存, Spark+Hadoop= A winning  combination;

  • 并存的时候,Hadoop主要使用HDFS进行数据存储,Spark负责对大数据一体化多元化的计算;

 

展开阅读全文
打赏
0
2 收藏
分享
加载中
更多评论
打赏
0 评论
2 收藏
0
分享
返回顶部
顶部