文档章节

Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)

hankcs
 hankcs
发布于 2017/05/29 23:28
字数 322
阅读 6
收藏 0
本文由码农场同步,最新版本请查看原文:http://www.hankcs.com/ml/hinton-rbm.html
Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)
终于到了玻尔兹曼机的训练了,这种简单的模型拥有优雅的理论基础,训练起来却又慢又差,曾一度被认为不实用。这节课讲解几种高效的学习算法,以及RBM应用到协同过滤的例子。学习目标这是种非监督学习,只有输入向量的参与。我们想要最大化训练集中的二值向量被玻尔兹曼机赋予的概率之积,当然,一般用概率对数之和。这也等价于,无输入情况下让网络稳定到stationary distribution N次,每次采样一次visible vector;如此能够“回忆起”这N个输入向量的概率。为何学习很困难考虑如下链式单元:2个可见单元...

继续阅读码农场 » Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)

原文链接http://www.hankcs.com/ml/hinton-rbm.html


感谢阅读本文,欢迎 查看原文或访问 码农场 获取更多内容

© 著作权归作者所有

共有 人打赏支持
hankcs
粉丝 35
博文 222
码字总数 53918
作品 1
美国
Deep Learning(深度学习)学习笔记整理系列之(六)

目录: 一、概述 二、背景 三、人脑视觉机理 四、关于特征 4.1、特征表示的粒度 4.2、初级(浅层)特征表示 4.3、结构性特征表示 4.4、需要有多少个特征? 五、Deep Learning的基本思想 六、...

云栖希望。
2017/12/04
0
0
Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)

目录 学习目标 为何学习很困难 惊人的事实 为何导数如此简单 为何需要第二项 一种效率低的训练方式 更加高效的方法 更好的统计方法 Neal’s method 让Neal方法适配mini-batch simple mean fi...

码农场
2017/05/29
0
0
深度学习(Deep Learning)综述

Comments from Xinwei: 本文是从deeplearning网站上翻译的另一篇综述,主要简述了一些论文、算法已经工具箱。 深度学习是ML研究中的一个新的领域,它被引入到ML中使ML更接近于其原始的目标:...

liangtee
2013/01/27
0
0
深度学习之神经网络与支持向量机

从人人上转过来的 前言:本文翻译自deeplearning网站,主要综述了一些论文、算法已经工具箱。 引言:神经网络(Neural Network)与支持向量机(Support Vector Machines,SVM)是统计学习的代...

猪猪daxia
2015/06/29
0
0
Deep Learning方向的paper

个人阅读的Deep Learning方向的paper整理,分了几部分吧,但有些部分是有交叉或者内容重叠,也不必纠结于这属于DNN还是CNN之类,个人只是大致分了个类。目前只整理了部分,剩余部分还会持续更...

langb2014
2016/03/06
0
0

没有更多内容

加载失败,请刷新页面

加载更多

学习设计模式——命令模式

任何模式的出现,都是为了解决一些特定的场景的耦合问题,以达到对修改封闭,对扩展开放的效果。命令模式也不例外: 命令模式是为了解决命令的请求者和命令的实现者之间的耦合关系。 解决了这...

江左煤郎
22分钟前
1
0
字典树收集(非线程安全,后续做线程安全改进)

将500W个单词放进一个数据结构进行存储,然后进行快速比对,判断一个单词是不是这个500W单词之中的;来了一个单词前缀,给出500w个单词中有多少个单词是该前缀. 1、这个需求首先需要设计好数据结...

算法之名
昨天
7
0
GRASP设计模式

此文参考了这篇博客,建议读者阅读原文。 面向对象(Object-Oriented,OO)是当下软件开发的主流方法。在OO分析与设计中,我们首先从问题领域中抽象出领域模型,在领域模型中以适当的粒度归纳...

克虏伯
昨天
0
0
Coding and Paper Letter(四十)

资源整理。 1 Coding: 1.Tomislav Hengl撰写的非官方作者指南:Michael Gould•Wouter Gerritsma。 UnofficialGuide4Authors 2.R语言包rwrfhydro,社区贡献的工具箱,用于管理,分析和可视化...

胖胖雕
昨天
0
0
JAVA 内存回收

参考:https://www.cnblogs.com/leesf456/p/5218594.html 1,JMV 中哪些可以作为 GC Root? 1. 虚拟机栈(栈帧中的局部变量区,也叫做局部变量表)中引用的对象。 2. 方法区中的类静态属性引...

Carlyle_Lee
昨天
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部