加载中
python中xml与json、dict、string的相互转换-xmltodict

在开发中经常遇到字符串、xml、json、dict对象的相互转换,这个工具和这里的方法全部都能够搞定。

关于Spark的基本概念和特性简介

Spark是近年来发展较快的分布式并行数据处理框架,可以与Hadoop联合使用,增强Hadoop的性能。同时,Spark还增加了内存缓存、流数据处理、图数据处理等更为高级的数据处理能力。这里简单介绍了...

Spark Streaming 编程指南[中]

Spark Streaming是一个分布式架构的流式数据处理框架。得益于庞大的Hadoop/Spark生态体系,利用RDD的内存迭代计算引入Streaming处理能力,是Spark的一个重要的模块。本Spark Streaming 编程指...

PySpark-使用Python在Spark上编程

The Spark Python API (PySpark) exposes the Spark programming model to Python. To learn the basics of Spark, we recommend reading through theScala programming guide first; it sho...

Spark SQL和DataFrame指南[中]

SparkSQL和DataFrame是Spark的高阶统一编程接口,在Spark2.0中进一步得到了增强。本文是关于Spark SQL和DataFrame的使用指南[中文翻译],包含使用概念、方法、接口、示例等内容。...

python实现OSM文件转为JSON格式

OSM是OpenStreetMap的开源数据格式,采用xml存储。这里将其转为json后可以加载到Spark/Hadoop等系统中进一步处理,也可以直接转入GIS软件中使用。 提取OpenStreetMap的osm文件(xml格式),转为...

Spark的python编程-初步理解

spark应用程序结构 Spark应用程序可分两部分:driver部分和executor部分初始化SparkContext和主体程序。 A:driver部分 driver部分主要是对SparkContext进行配置、初始化以及关闭。初始化Spa...

2016/03/03 09:09
4.1K
Spark的三种运行模式快速入门

1、Spark本地运行模式 控制台: pyspark --master local[4] 打开浏览器,访问http://localhost:4040可查看运行状态。 缺省使用的Python环境是2.7,如果希望使用python3,可以设置环境变量 ...

2016/03/14 16:55
3.9K
Jupyter Notebook Python, Scala, R, Spark, Mesos

在Docker中运行Jupyter/Spark/Mesos服务,支持Jupyter Notebook Python, Scala, R, Spark, Mesos Stack。

基于Python的分布式计算平台-DPark

DPark是一个基于Mesos的集群计算框架(cluster computing framework),是Spark的Python实现版本,类似于MapReduce,但是比其更灵活,可以用Python非常方便地进行分布式计算,并且提供了更多的...

Spark的配置参数

Spark启动时的配置参数可以通过环境变量、命令行参数和SparkConf编程在启动时配置。这里介绍其配置方法和参数(有点多,慢慢看)。

2016/03/17 17:09
3.4K
Spark的可视化作业管理

在过去,Spark UI一直是用户应用程序调试的帮手。而在最新版本的Spark 1.4中,我们很高兴地宣布,一个新的因素被注入到Spark UI——数据可视化。在此版本中,可视化带来的提升主要包括三个部...

GraphFrames, Spark上的图计算库(英)

An overview of Spark's new GraphFrames, a graph processing library based on DataFrames, built in a collaboration between Databricks, UC Berkeley's AMPLab, and MIT....

Apache Spark 2.3 运行于Kubernetes

Apache Spark 2.3 运行于Kubernetes 原文来源:https://spark.apache.org/docs/latest/running-on-kubernetes.html Spark can run on clusters managed by Kubernetes. This feature makes u...

2018/03/09 06:59
1.8K
Spark源码编译和问题的解决

对源码进行编译虽然有点自虐,但可以帮助自己更好地了解其中的细节,为以后的深入和解决配置问题打下基础,否则遇到问题可能会束手无策。这里介绍Spark的编译过程[来自于:http://www.iteb...

2015/12/17 09:06
1.4K
Spark GraphX Pregel API: An Example

Spark GraphX的Pregel API的例程。

2016/09/02 14:23
1.4K

没有更多内容

加载失败,请刷新页面

返回顶部
顶部