文档章节

handwriting recognition

saber-YY
 saber-YY
发布于 2016/12/23 17:56
字数 667
阅读 0
收藏 0

#神经网络 输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明

输入图片说明

#问题一: 在书中说了为什么使用10个输出而不是4个输出,于是它做了如下假设:

假设隐藏层中神经元的第一个、第二个、第三个、第四个神经元节点分别验证图中是否含有如下图片中的像素点,方法就是给与下图中像素重叠的地方加权,而其余地方减少其权重。

输入图片说明输入图片说明输入图片说明输入图片说明

可以看出它们组成了此张写着“0”的图片:

输入图片说明

_但是由于4个输出的话,2^4,那么却没有一个检测可以直接决定使用四位bit中的哪位,特别是对于第一位,它一下就很大的改变了值。作者也提供了一个题目,叫我们去写如下图的网络,试着给它们赋权值,从而达到用4位作为输出的结果,当然我现在是拒绝的,因为算法不变的情况下会这样只会加大计算量,有时间再说了^=^ _

输入图片说明

#问题二

"Why not try to maximize that number directly, rather than minimizing a proxy measure like the quadratic cost?"

这是书中原话,原因就是直接使用正确的图片数作为判断,那么函数不是连续的的,而用二次成本函数这种形式就是连续的了。

#问题三 输入图片说明

原文是这样写的,所以之后它在解释为什么这样写,这是因为它要使用该公式进行计算:

输入图片说明

而上文中又有该公式:

输入图片说明

作者说这两个公式是等价的,可以有一下简图说明,当网络的情况是如下时:

输入图片说明

有对应的w和a相乘情况:

输入图片说明

可以知道,这样写对于计算是非常方便的。

#问题四

代码的数据结构

输入图片说明

至于biases和weights,都是一个list里面包括了几个array,并且从维度上来说都是箭头指向的节点所指向的神经元代表的,具体可以看问题三

#问题五 输入图片说明

输入图片说明

Proof (BP3)

由于有:

输入图片说明

输入图片说明

所以:

输入图片说明

(BP4)的证法与之相同

额,余下的一下子想整理来着,又有点乱,也许我以后会回过头来再看的,所以,先这样,这些问题恰恰是我在初次看的时候碰到的,以后就算再看,也不会有更多的问题了,只是思绪还是有些乱,奈何如今我的时间不多。

© 著作权归作者所有

共有 人打赏支持
saber-YY
粉丝 0
博文 4
码字总数 1561
作品 0
南昌
[译] 苹果的手写汉字识别如何实现的?

简评:苹果官方手写识别团队的技术文章,讲解了如何用机器学习的方法实现中文的手写识别。 以下「 我们」都代表「 苹果手写识别团队」。 因为手机,平板电脑和可穿戴设备如智能手表的流行,手...

极光日报
2017/11/03
0
0
Dataset 列表:机器学习研究

Face recognition In computer vision, face images have been used extensively to develop face recognition systems, face detection, and many other projects that use images of faces......

JNingWei
2017/06/28
0
0
Deep learning From Image to Sequence

本文笔记旨在概括地讲deep learning的经典应用。内容太大,分三块。 --------------------------------------------------------------------------------------------- Content 1. 回想 de......

技术mix呢
2017/11/15
0
0
25 个超棒的免费手写字体

为了让你的网站上设计一些具有手写效果的风格,我们需要一些手写的字体,可以大大的简化这个过程。本文推荐 25 个免费的手写字体,很漂亮哦。 Hand of Sean Harrison Alako-Bold font Imitat...

红薯
2011/11/13
7.2K
12
收集 22 款免费的手写英文字体

Faraco Hand A Year Without Rain Dear Joe 5 Casual Joy Like Sunshine Through My Windowpane Journal Angelina Lovely Eunike Hans Sweetly Broken Hand of Sean Jenna Sue Covered By Yo......

红薯
2012/01/06
4.2K
5

没有更多内容

加载失败,请刷新页面

加载更多

20180920 rzsz传输文件、用户和用户组相关配置文件与管理

利用rz、sz实现Linux与Windows互传文件 [root@centos01 ~]# yum install -y lrzsz # 安装工具sz test.txt # 弹出对话框,传递到选择的路径下rz # 回车后,会从对话框中选择对应的文件传递...

野雪球
今天
1
0
OSChina 周四乱弹 —— 毒蛇当辣条

Osc乱弹歌单(2018)请戳(这里) 【今日歌曲】 @ 达尔文:分享花澤香菜/前野智昭/小野大輔/井上喜久子的单曲《ミッション! 健?康?第?イチ》 《ミッション! 健?康?第?イチ》- 花澤香菜/前野智...

小小编辑
今天
7
3
java -jar运行内存设置

java -Xms64m #JVM启动时的初始堆大小 -Xmx128m #最大堆大小 -Xmn64m #年轻代的大小,其余的空间是老年代 -XX:MaxMetaspaceSize=128m # -XX:CompressedClassSpaceSize=6...

李玉长
今天
3
0
Spring | 手把手教你SSM最优雅的整合方式

HEY 本节主要内容为:基于Spring从0到1搭建一个web工程,适合初学者,Java初级开发者。欢迎与我交流。 MODULE 新建一个Maven工程。 不论你是什么工具,选这个就可以了,然后next,直至finis...

冯文议
今天
2
0
RxJS的另外四种实现方式(四)——性能最高的库(续)

接上一篇RxJS的另外四种实现方式(三)——性能最高的库 上一篇文章我展示了这个最高性能库的实现方法。下面我介绍一下这个性能提升的秘密。 首先,为了弄清楚Most库究竟为何如此快,我必须借...

一个灰
今天
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部