文档章节

handwriting recognition

saber-YY
 saber-YY
发布于 2016/12/23 17:56
字数 667
阅读 0
收藏 0

#神经网络 输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明

输入图片说明

#问题一: 在书中说了为什么使用10个输出而不是4个输出,于是它做了如下假设:

假设隐藏层中神经元的第一个、第二个、第三个、第四个神经元节点分别验证图中是否含有如下图片中的像素点,方法就是给与下图中像素重叠的地方加权,而其余地方减少其权重。

输入图片说明输入图片说明输入图片说明输入图片说明

可以看出它们组成了此张写着“0”的图片:

输入图片说明

_但是由于4个输出的话,2^4,那么却没有一个检测可以直接决定使用四位bit中的哪位,特别是对于第一位,它一下就很大的改变了值。作者也提供了一个题目,叫我们去写如下图的网络,试着给它们赋权值,从而达到用4位作为输出的结果,当然我现在是拒绝的,因为算法不变的情况下会这样只会加大计算量,有时间再说了^=^ _

输入图片说明

#问题二

"Why not try to maximize that number directly, rather than minimizing a proxy measure like the quadratic cost?"

这是书中原话,原因就是直接使用正确的图片数作为判断,那么函数不是连续的的,而用二次成本函数这种形式就是连续的了。

#问题三 输入图片说明

原文是这样写的,所以之后它在解释为什么这样写,这是因为它要使用该公式进行计算:

输入图片说明

而上文中又有该公式:

输入图片说明

作者说这两个公式是等价的,可以有一下简图说明,当网络的情况是如下时:

输入图片说明

有对应的w和a相乘情况:

输入图片说明

可以知道,这样写对于计算是非常方便的。

#问题四

代码的数据结构

输入图片说明

至于biases和weights,都是一个list里面包括了几个array,并且从维度上来说都是箭头指向的节点所指向的神经元代表的,具体可以看问题三

#问题五 输入图片说明

输入图片说明

Proof (BP3)

由于有:

输入图片说明

输入图片说明

所以:

输入图片说明

(BP4)的证法与之相同

额,余下的一下子想整理来着,又有点乱,也许我以后会回过头来再看的,所以,先这样,这些问题恰恰是我在初次看的时候碰到的,以后就算再看,也不会有更多的问题了,只是思绪还是有些乱,奈何如今我的时间不多。

© 著作权归作者所有

共有 人打赏支持
saber-YY
粉丝 0
博文 4
码字总数 1561
作品 0
南昌
私信 提问
[译] 苹果的手写汉字识别如何实现的?

简评:苹果官方手写识别团队的技术文章,讲解了如何用机器学习的方法实现中文的手写识别。 以下「 我们」都代表「 苹果手写识别团队」。 因为手机,平板电脑和可穿戴设备如智能手表的流行,手...

极光日报
2017/11/03
0
0
Dataset 列表:机器学习研究

Face recognition In computer vision, face images have been used extensively to develop face recognition systems, face detection, and many other projects that use images of faces......

JNingWei
2017/06/28
0
0
Deep learning From Image to Sequence

本文笔记旨在概括地讲deep learning的经典应用。内容太大,分三块。 --------------------------------------------------------------------------------------------- Content 1. 回想 de......

技术mix呢
2017/11/15
0
0
25 个超棒的免费手写字体

为了让你的网站上设计一些具有手写效果的风格,我们需要一些手写的字体,可以大大的简化这个过程。本文推荐 25 个免费的手写字体,很漂亮哦。 Hand of Sean Harrison Alako-Bold font Imitat...

红薯
2011/11/13
7.9K
12
收集 22 款免费的手写英文字体

Faraco Hand A Year Without Rain Dear Joe 5 Casual Joy Like Sunshine Through My Windowpane Journal Angelina Lovely Eunike Hans Sweetly Broken Hand of Sean Jenna Sue Covered By Yo......

红薯
2012/01/06
4.4K
5

没有更多内容

加载失败,请刷新页面

加载更多

自定义 Maven 的 repositories

有时,应用中需要一些比较新的依赖,而这些依赖并没有正式发布,还是处于milestone或者是snapshot阶段,并不能从中央仓库或者镜像站上下载到。此时,就需要 自定义Maven的<repositories>。 ...

waylau
32分钟前
1
0
徒手写一个es6代码库

mkdir democd demonpm initnpm install -g babelnpm install -g babel-clinpm install --save-dev babel-preset-es2015-node5 在项目目录创建两个文件夹 functional-playground ......

lilugirl
32分钟前
2
0
linux定位应用问题的一些常用命令,特别针对内存和线程分析的dump命令

1.jps找出进程号,找到对应的进程号后面才好继续操作 2.linux查看进程详细信息 ps -ef | grep 进程ID 3. dump内存信息 Jmap -dump:format=b,file=YYMMddhhmm.dump pid 4.top查看cpu占用信息 ...

noob_chr
33分钟前
1
0
Android TV开发-按键焦点

写在前面 按键焦点过程了解 2.1 dispatchKeyEvent 过程了解 2.2 焦点查找请求过程了解 1.2.1 第一次获取焦点 1.2.3 按键焦点 焦点控制 焦点记忆 应用场景 参考资料 [TOC] 1. 写在前面 工...

冰雪情缘l
33分钟前
1
0
java框架学习日志-3

这章主要是补充一些ioc创建对象的方式,ioc容器在写好<bean></bean>的时候就已经创建对象了。在之前的例子中,一直都是无参的构造方法。下面给出有参的构造方法的对象的创建,没有什么难点重...

白话
35分钟前
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部