文档章节

对于《机器学习实战》中逻辑斯谛回归算法公式理解

tantexian
 tantexian
发布于 2017/07/13 15:25
字数 111
阅读 27
收藏 0

对于《机器学习实战》中逻辑斯谛回归算法公式理解:

weights = weights + alpha * dataMatrix.transpose() * error  





附:logistic算法

[python] view plain copy
def sigmoid(inX):  
    return 1.0/(1+exp(-inX))  
      
def gradAscent(dataMatIn, classLabels):  
    dataMatrix = mat(dataMatIn)  
    labelMat = mat(classLabels).transpose()  
    m, n = shape(dataMatrix)  
    alpha = 0.001  
    maxCycles = 500  
    weights = ones((n, 1))  
    for k in range(maxCycles):  
        h = sigmoid(dataMatrix*weights)  
        error = (labelMat - h)  
        weights = weights + alpha * dataMatrix.transpose() * error  
    return weights  

 

原理推导如下:

 

© 著作权归作者所有

共有 人打赏支持
tantexian
粉丝 207
博文 512
码字总数 729135
作品 0
成都
架构师
私信 提问
统计学习方法|logistic回归

01 逻辑斯谛分布 logistic回归是一种经典的分类算法,模型形式如下(二分类),其中x服从逻辑斯谛分布: 什么叫服从逻辑斯谛分布呢? 直观点,分布函数和密度函数长这样: 逻辑斯谛回归模型有...

邓莎
08/18
0
0
《机器学习实战》 (3) logistic regression(逻辑斯蒂回归)小结(上)

最近一直在学习《机器学习实战》这一本书,之前学习了kNN 算法和决策树算法,因为想迫切的接触logistic回归算法,所以我跳过了朴素贝叶斯(下一讲会说),而是首先学习了logistic回归,这也是...

lwpyh
05/28
0
0
[ML] 逻辑斯谛回归与最大熵模型

知识准备 极大似然估计 极大似然估计就是给定一个训练数据集T, 寻找模型的最优参数值θ, 达到一个这样的效果: 给模型输入训练集的X, 能以最大的概率输出其正确的分类Y. 求θ的过程就是最大化...

pangtouyu_qy
03/14
0
0
生成学习、高斯判别、朴素贝叶斯—斯坦福ML公开课笔记5

个人总结: 1、判别式算法与生成式算法,判别式算法就像是判官,说一不二,说你是啥就是啥,而生成式则是给你一个“模糊”的结果,他认为你有可能是任何一类,根据概率大小再决定你到底是什么...

东方神剑
2015/10/10
698
0
Logistic回归模型|算法实现

01 起 在这篇文章中,我们学习了逻辑斯谛回归模型的算法原理:统计学习方法|logistic回归 今天我们基于算法原理,给出利用随机梯度上升算法求解逻辑斯蒂回归模型参数的过程。 我们先来回顾一...

邓莎
08/18
0
0

没有更多内容

加载失败,请刷新页面

加载更多

线下工坊|Blockchain Coding Day:零基础教你开发DAPP(北京)

我们的目标是通过编程学习让你更了解区块链技术。这将对区块链开发初学者一次很好的体验。这里需要强调一下,编程零基础也能学会。 我们将以小组的形式,由教练带领学员完成DAPP开发。每位学...

HiBlock
10分钟前
0
0
查看内存情况

jinfo:可以输出并修改运行时的java 进程的opts。 jps:与unix上的ps类似,用来显示本地的java进程,可以查看本地运行着几个java程序,并显示他们的进程号。 jstat:一个极强的监视VM内存工具。...

Canaan_
11分钟前
0
0
基于对象特征的推荐

(本实验选用数据为真实电商脱敏数据,仅用于学习,请勿商用) 在上一期基于协同过滤的的推荐场景中,我们介绍了如何通过PAI快速搭建一个基于协同过滤方案的推荐系统,这一节会介绍一些如何基...

阿里云官方博客
19分钟前
1
0
Ugly Number(leetcode263)

Write a program to check whether a given number is an ugly number. Ugly numbers are positive numbers whose prime factors only include 2, 3, 5. Example 1: Input: 6Output: true......

woshixin
42分钟前
2
0
深度模型从研者 眼里的 似然估计 & Hessain 海森矩阵 & Fisher Information (费雪信息)

深度模型的训练的基本依据是最小化模型拟合数据的误差。旨在不仅知其然(如何构建和训练一个深度模型),还应知其所以然(为什么这样训练,可以做哪些优化)。我们就会发现,有很多研究者,在...

刘小米_思聪
47分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部