文档章节

spark mllib 分类之支持向量机

ericSM
 ericSM
发布于 2016/07/28 19:32
字数 693
阅读 219
收藏 1

胃癌转移数据说明

肾细胞癌转移情况(有转移 y=1,无转移 y=2)
x1:确诊时患者年龄(岁)
x2:肾细胞癌血管内皮生长因子(VEGF),其阳性表述由低到高共3个等级
x3:肾细胞癌组织内微血管数(MVC)
x4:肾癌细胞核组织学分级,由低到高共4级
x5:肾细胞癌分期,由低到高共4级

y x1 x2 x3 x4 x5
0 59 2 43.4 2 1

运行代码如下

package spark.logisticRegression

import org.apache.spark.mllib.classification.{SVMWithSGD}
import org.apache.spark.mllib.evaluation.MulticlassMetrics
import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.mllib.regression.LabeledPoint
import org.apache.spark.mllib.util.MLUtils
import org.apache.spark.{SparkConf, SparkContext}

/**
  *  MLLib分类,逻辑回归,是分类,不是回归
  *  支持向量机分析胃癌转移判断
  * Created by eric on 16-7-17.
  */
object SVMTest {
  val conf = new SparkConf()                                     //创建环境变量
    .setMaster("local")                                             //设置本地化处理
    .setAppName("LogisticRegression4")                              //设定名称
  val sc = new SparkContext(conf)

  def main(args: Array[String]) {
    val data = MLUtils.loadLibSVMFile(sc, "./src/main/spark/logisticRegression/wa.txt")	//读取数据文件,一定注意文本格式
    val splits = data.randomSplit(Array(0.7, 0.3), seed = 11L)			//对数据集切分
    val parsedData = splits(0)									//分割训练数据
    val parseTtest = splits(1)									//分割测试数据
    val model = SVMWithSGD.train(parsedData,50)		//训练模型

    val predictionAndLabels = parseTtest.map { 					//计算测试值
      case LabeledPoint(label, features) =>						//计算测试值
        val prediction = model.predict(features)						//计算测试值
        (prediction, label)										//存储测试和预测值
    }

    val metrics = new MulticlassMetrics(predictionAndLabels)	//创建验证类
    val precision = metrics.precision								//计算验证值
    println("Precision = " + precision)							//打印验证值

    val patient = Vectors.dense(Array(70,3,180.0,4,3))	//计算患者可能性
    if(patient == 1) println("患者的胃癌有几率转移。")	//做出判断
    else println("患者的胃癌没有几率转移。")		//做出判断
    //Precision = 0.5555555555555556
    //患者的胃癌没有几率转移。

  }
}

wa.txt

0 1:59 2:2 3:43.4 4:2 5:1
0 1:36 2:1 3:57.2 4:1 5:1
0 1:61 2:2 3:190 4:2 5:1
1 1:58 2:3 3:128 4:4 5:3
1 1:55 2:3 3:80 4:3 5:4
0 1:61 2:1 3:94 4:4 5:2
0 1:38 2:1 3:76 4:1 5:1
0 1:42 2:1 3:240 4:3 5:2
0 1:50 2:1 3:74 4:1 5:1
0 1:58 2:2 3:68.6 4:2 5:2
0 1:68 2:3 3:132.8 4:4 5:2
1 1:25 2:2 3:94.6 4:4 5:3
0 1:52 2:1 3:56 4:1 5:1
0 1:31 2:1 3:47.8 4:2 5:1
1 1:36 2:3 3:31.6 4:3 5:1
0 1:42 2:1 3:66.2 4:2 5:1
1 1:14 2:3 3:138.6 4:3 5:3
0 1:32 2:1 3:114 4:2 5:3
0 1:35 2:1 3:40.2 4:2 5:1
1 1:70 2:3 3:177.2 4:4 5:3
1 1:65 2:2 3:51.6 4:4 5:4
0 1:45 2:2 3:124 4:2 5:4
1 1:68 2:3 3:127.2 4:3 5:3
0 1:31 2:2 3:124.8 4:2 5:3

结果如图

 

© 著作权归作者所有

ericSM
粉丝 18
博文 142
码字总数 154379
作品 0
南京
项目经理
私信 提问
加载中

评论(0)

基于Spark的机器学习实践 (二) - 初识MLlib

1 MLlib概述 1.1 MLlib 介绍 ◆ 是基于Spark core的机器学习库,具有Spark的优点 ◆ 底层计算经过优化,比常规编码效率往往要高 ◆ 实现了多种机器学习算法,可以进行模型训练及预测 1.2 Spark ...

javaedge
2019/04/09
0
0
Spark的39个机器学习库-中文

//Apache Spark 本身// 1.MLlib >AMPLab Spark最初诞生于伯克利 AMPLab实验室,如今依然还是AMPLab所致力的项目,尽管这些不处于Apache Spark Foundation中,但是依然在你日常的github项目中...

MoksMo
2015/11/04
965
0
地铁译:Spark for python developers ---Spark与数据的机器学习

机器学习可以从数据中得到有用的见解. 目标是纵观Spark MLlib,采用合适的算法从数据集中生成见解。对于 Twitter的数据集, 采用非监督集群算法来区分与Apache
Spark相关的tweets . 初始输入...

abel_cao
2019/01/17
0
0
Spark之获取GBT二分类函数的概率值

  在Spark中,GBT(Gradient Boost Trees,提升树)函数用于实现机器学习中的提升树算法,目前仅支持二分类算法。笔者在实际工作中需要获得其预测的概率值,无奈该函数没有相应的方法。  ...

jclian91
2017/10/09
0
0
Spark 数据分析导论-笔记

Spark Core Spark Core 实现了Spark 的基本功能,包含任务调度、内存管理、错误恢复、与存储系统交互等模块。 Spark Core 中还包含了 对弹性分布式数据集(resilient distributed dataset,简...

Java搬砖工程师
2018/12/26
87
0

没有更多内容

加载失败,请刷新页面

加载更多

R语言用quantstrat包获取股票、债券、基金、黄金、原油、指数、外汇和全球经济数据

R语言可以非常轻松的获得证券(股票、债券、基金、期货(黄金、原油等)、期权),指数、外汇和美联储提供的各种经济数据。我来详细说一下。 quantstrat包的金融数据很全 yahoo提供的各种证券...

常志伟
32分钟前
49
0
Lvm 创建/扩展/缩减/删除/快照

创建 xfs创建LVMfdisk -l或 lsblkpvcreate /dev/vdb /dev/vdcvgcreate vg_data /dev/vdb /dev/vdclvcreate -n lv_data -L 15G vg_datamkfs.xfs /dev/vg_data/lv_datamkdir /dataec......

橱窗人
35分钟前
41
0
.net core Profiler 监控 NPOCO ORM 的 SQL语句

1、在 nuget.org 安装 Profiler.AspNetCore.Mvc PM> Install-Package MiniProfiler.AspNetCore.Mvc 2、在 Startup.cs 中修改ConfigureServices public void ConfigureServices(IServiceColle......

产品哥
38分钟前
18
0
日积月累JAVA面试题

此篇记录我每天刷的面试题。温故知新 1.TCO三次握手和四次握手 原因:任何数据传输都无法保证绝对的可靠性 三次:建立连接 四次:关闭连接(多了一次:服务端在收到客户端的关闭请求后,不能...

a伟正是在下
43分钟前
66
0
定时任务框架 Quartz 学习笔记(一)

本篇内容: Quartz 简介 Quartz快速开始指南 本篇只做简介及效果预览项目搭建,不做代码分析。 Quartz 简介     Quartz 是一个功能丰富且开源的作业调度库,从最小的独立应用程序到最大的...

司徒大人呐
昨天
78
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部