文档章节

sparkGraphX 基础操作

JPblog
 JPblog
发布于 2017/09/08 14:50
字数 432
阅读 14
收藏 0

1. 目的

    由数组形成graph并展示基础操作

2. 素材

    由Array生成vertexRDD和edgeRDD

3. 代码

/**
  * Created by puwenchao on 2016-07-06.
  */
package test
import org.apache.log4j.{Level, Logger}
import org.apache.spark.{SparkConf, SparkContext}
import org.apache.spark.graphx._
import org.apache.spark.graphx.lib.ShortestPaths
import org.apache.spark.rdd.RDD

object triangle {
  def main(args: Array[String]) {
    //屏蔽日志
    Logger.getLogger("org.apache.spark").setLevel(Level.WARN)
    Logger.getLogger("org.eclipse.jetty.server").setLevel(Level.OFF)

    //设置运行环境
    val conf = new SparkConf().setAppName("triangle").setMaster("local")
    val sc = new SparkContext(conf)

    //设置顶点和边,注意顶点和边都是用元组定义的Array
    //顶点的数据类型是VD:(String,Int)
    val vertexArray = Array(
      (3L, ("rxin", 28)),
      (7L, ("jgonzal", 27)),
      (5L, ("franklin", 65)),
      (2L, ("istoica", 42))
    )
    //边的数据类型ED:Int
    val edgeArray = Array(
      Edge(3L, 7L, 7),
      Edge(5L, 3L, 2),
      Edge(2L, 5L, 4),
      Edge(5L, 7L, 3)
    )

    //构造vertexRDD和edgeRDD
    val vertexRDD: RDD[(Long, (String, Int))] = sc.parallelize(vertexArray)
    val edgeRDD: RDD[Edge[Int]] = sc.parallelize(edgeArray)
    //构造图Graph[VD,ED]
    val graph: Graph[(String, Int), Int] = Graph(vertexRDD, edgeRDD)
    //筛选有效子图
    val subgraph= graph.subgraph(vpred = (id,attr) => attr._2 != "Missing")
    println("subgraph:")
    subgraph.vertices.collect().foreach(println(_))


    //三元组
    val e=graph.triplets
    println("\ntriplets:")
    e.take(10).foreach {println}

    //总边数
    val f=graph.numEdges
    println("\nnumEdges:"+f)

    //总顶点数
    val g=graph.numVertices
    println("\nnumVertices:"+g)

    //顶点入度
    val h=graph.inDegrees
    println("\ninDegrees:"+h.collect.mkString(","))

    //顶点出度
    val i=graph.outDegrees
    println("\noutDegrees:"+i.collect.mkString(","))

    //筛选来源点ID>目标点ID
    val j=graph.edges.filter { case Edge(src, dst, prop) => src > dst }.count
    println("\nedge-filter:"+j)

    //三角计数
    val l=graph.triangleCount.vertices
    println("\ntriangleCount:")
    l.foreach(println)

    //网页排序算法
    val m=graph.pageRank(0.1).vertices
    println("\npageRank:")
    m.foreach(println)

    //最短路径
    val landmarks = Seq(7).map(_.toLong)
    val o=ShortestPaths.run(graph,landmarks).vertices
    println("\nShortestPaths:")
    o.foreach(println)

    sc.stop()
  }
}

4. 输出

    subgraph:
    (3,(rxin,28))
    (7,(jgonzal,27))
    (5,(franklin,65))
    (2,(istoica,42))

    triplets:
    ((2,(istoica,42)),(5,(franklin,65)),4)
    ((3,(rxin,28)),(7,(jgonzal,27)),7)
    ((5,(franklin,65)),(3,(rxin,28)),2)
    ((5,(franklin,65)),(7,(jgonzal,27)),3)

    numEdges:4

    numVertices:4

    inDegrees:(3,1),(7,2),(5,1)

    outDegrees:(3,1),(5,2),(2,1)

    edge-filter:1

    triangleCount:
    (3,1)
    (7,1)
    (5,1)
    (2,0)

    pageRank:
    (3,0.2679375)
    (7,0.39543749999999994)
    (5,0.27749999999999997)
    (2,0.15)

    ShortestPaths:
    (3,Map(7 -> 1))
    (7,Map(7 -> 0))
    (5,Map(7 -> 1))
    (2,Map(7 -> 2))

© 著作权归作者所有

共有 人打赏支持
JPblog
粉丝 13
博文 63
码字总数 39976
作品 0
朝阳
程序员
私信 提问
GraphX二度关系(代码)

关于GraphX的存储模式以及存储数据结构、二度关系的解释等有一个很好的网址: http://www.dataguru.cn/article-10425-1.html 该网站介绍了二度关系的算法实现,下面我给出具体的SparkGraphX...

mbshqqb
2017/11/09
0
0
DMP用户画像系统(SparkGraphX SparkCore SparkSQL)

DMP用户画像系统(SparkGraphX SparkCore SparkSQL) 课程观看地址:http://www.xuetuwuyou.com/course/221 课程出自学途无忧网:http://www.xuetuwuyou.com DMP系统 用户画像也称人物角色,...

含笑三步
2017/10/18
0
0
Go开发实战

写这本书主要是灵感来自于: https://github.com/thekarangoel/Projects 然后我就想到了当初做PHP的时候,也有类似的项目,觉得golang也可以实现一个类似的书籍,暂且把书名定为《Go实战开发...

astaxie
2013/08/05
6.1K
0
JavaScript 基础操作封装函数--icewood

icewood简介 icewood是一个为javascript提供基础操作封装函数的类库. icewood是一个为javascript提供基础操作封装函数的类库.封装了数组字符串数字的很多操作. icewood以易学为原则,以程序员...

匿名
2017/03/03
195
0
《.Net 系列》- 目录

基础 《.Net基础 系列》- 正则 《.Net基础 系列》- 枚举 《.Net基础 系列》- IO操作 《.Net基础 系列》 - Linq & Lambda & t-Sql 框架 《.Net框架 系列》- 单元测试框架NUnit 《.Net框架 系列...

Kimisme
2017/12/28
4
0

没有更多内容

加载失败,请刷新页面

加载更多

Apache日志不记录访问静态文件,访问日志切割,静态元素过期时间设置

Apache配置不记录访问静态文件的日志 网站大多元素为静态文件,如图片、css、js等,这些元素可以不用记录 vhost原始配置 <VirtualHost *:80> ServerAdmin test@163.com DocumentRoo...

野雪球
今天
1
0
聊聊storm的ICommitterTridentSpout

序 本文主要研究一下storm的ICommitterTridentSpout ICommitterTridentSpout storm-core-1.2.2-sources.jar!/org/apache/storm/trident/spout/ICommitterTridentSpout.java public interface......

go4it
今天
2
0
Ubuntu常用操作

查看端口号 netstat -anp |grep 端口号 查看已使用端口情况 netstat -nultp(此处不用加端口号) netstat -anp |grep 82查看82端口的使用情况 查找被占用的端口: netstat -tln netstat -tl...

hc321
昨天
1
0
网站cdn的静态资源突然访问变的缓慢,问题排查流程

1.首先我查看了一下是否自己的网络问题,通过对比其他资源的访问速度和下载速度,确认不是 2.通过ping 和 tracert 判断cdn域名能否正常访问,(最后回想感觉这一步可以省略,因为每次最终能访...

小海bug
昨天
3
0
Mybatis 学习笔记四 MyBatis-Plus插件

Mybatis 学习笔记四 MyBatis-Plus插件 maven依赖 <dependency> <groupId>com.baomidou</groupId> <artifactId>mybatis-plus</artifactId> <ve......

晨猫
昨天
6
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部