文档章节

Spark程序在IDEA本地运行时报错解决

别寒
 别寒
发布于 2017/05/25 13:51
字数 113
阅读 69
收藏 0

报错信息: java.lang.IllegalArgumentException: System memory 259522560 must be at least 4.718592E8. Please use

解决方式一: 设置应用程序的 VMoptions。IDEA的设置路径在:Run -> Edit Configurations -> Application选择对应的程序,设置VM options:-Xmx512M,或者:-Xms256m -Xmx1024m

解决方式二: 在创建SparkConf的时候代码设置: scala版本: val conf = new SparkConf() .setAppName("map").setMaster("local") .set("spark.testing.memory", "2147480000")

Java版本: SparkConf conf = new SparkConf().setAppName("map").setMaster("local").set("spark.testing.memory", "2147480000");

© 著作权归作者所有

别寒
粉丝 30
博文 273
码字总数 155300
作品 0
永州
程序员
私信 提问
Windows + IDEA + SBT 打造Spark源码阅读环境

http://guozhongxin.com/pages/2014/10/15/sparksourcecode.html Spark源码阅读环境的准备 Spark源码是有Scala语言写成的,目前,IDEA对Scala的支持要比eclipse要好,大多数人会选在在IDEA上...

chenhao_asd
2018/04/25
0
0
IDEA导入spark源代码调试

获取源码 官网下载源码到本地后,需要先进行编译,参考官方文档,编译很简单,这里使用4个线程,跳过tests,以此加速编译。这个编译会产生一些必要的源代码,如Catalyst项目下的,所以是必要...

火力全開
2017/10/26
229
0
在idea中访问spark集群报错

通过spark-submit或者idea中提交jar包报错 问题原因 服务器上版本号和本地版本号不对应,导致进行序列化的UID不一致: 解决方法 如果是通过submit提交的程序报错,则是本地编译spark程序的sca...

freeli
2018/09/29
35
0
IntelliJ IDEA Spark源码分析

在对 Spark 有了一定使用经验后,为了能够跟进 Spark 源代码的开发进展,对其源代码进行详细的阅读分析,本文详细说明了如何使用 IntelliJ IDEA 从 Github 上导入最新的 Spark 源代码,并对其...

MoksMo
2015/11/05
1K
0
spark导入在idea中运行

本文主要介绍在window平台上,spark官方代码例子直接在idea中运行和测试。 1、saprk官网(http://spark.apache.org/downloads.html)下载spark 2.3.2,并解压在D:projectideasparkspark-2.3.2...

penngo
01/22
61
0

没有更多内容

加载失败,请刷新页面

加载更多

作为一个(IT)程序员!聊天没有话题?试试这十二种技巧

首先呢?我是一名程序员,经常性和同事没话题。 因为每天都会有自己的任务要做,程序员对于其他行业来说;是相对来说比较忙的。你会经常看到程序员在发呆、调试密密麻麻代码、红色报错发呆;...

小英子wep
今天
15
0
【SpringBoot】产生背景及简介

一、SpringBoot介绍 Spring Boot 是由 Pivotal 团队提供的全新框架,其设计目的是用来简化新 Spring 应用的初始搭建以及开发过程,该框架使用了特定的方式来进行配置,从而使开发人员不再需要...

zw965
今天
5
0
简述并发编程分为三个核心问题:分工、同步、互斥。

总的来说,并发编程可以总结为三个核心问题:分工、同步、互斥。 所谓分工指的是如何高效地拆解任务并分配给线程,而同步指的是线程之间如何协作,互斥则是保证同一时刻只允许一个线程访问共...

dust8080
今天
6
0
OSChina 周四乱弹 —— 当你简历注水但还是找到了工作

Osc乱弹歌单(2019)请戳(这里) 【今日歌曲】 @花间小酌 :#今日歌曲推荐# 分享成龙的单曲《男儿当自强》。 《男儿当自强》- 成龙 手机党少年们想听歌,请使劲儿戳(这里) @hxg2016 :刚在...

小小编辑
今天
3.4K
22
靠写代码赚钱的一些门路

作者 @mezod 译者 @josephchang10 如今,通过自己的代码去赚钱变得越来越简单,不过对很多人来说依然还是很难,因为他们不知道有哪些门路。 今天给大家分享一个精彩的 GitHub 库,这个库整理...

高级农民工
昨天
10
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部