文档章节

handwriting recognition

saber-YY
 saber-YY
发布于 2016/12/23 17:56
字数 667
阅读 0
收藏 0

#神经网络 输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明 输入图片说明

输入图片说明

输入图片说明

输入图片说明

#问题一: 在书中说了为什么使用10个输出而不是4个输出,于是它做了如下假设:

假设隐藏层中神经元的第一个、第二个、第三个、第四个神经元节点分别验证图中是否含有如下图片中的像素点,方法就是给与下图中像素重叠的地方加权,而其余地方减少其权重。

输入图片说明输入图片说明输入图片说明输入图片说明

可以看出它们组成了此张写着“0”的图片:

输入图片说明

_但是由于4个输出的话,2^4,那么却没有一个检测可以直接决定使用四位bit中的哪位,特别是对于第一位,它一下就很大的改变了值。作者也提供了一个题目,叫我们去写如下图的网络,试着给它们赋权值,从而达到用4位作为输出的结果,当然我现在是拒绝的,因为算法不变的情况下会这样只会加大计算量,有时间再说了^=^ _

输入图片说明

#问题二

"Why not try to maximize that number directly, rather than minimizing a proxy measure like the quadratic cost?"

这是书中原话,原因就是直接使用正确的图片数作为判断,那么函数不是连续的的,而用二次成本函数这种形式就是连续的了。

#问题三 输入图片说明

原文是这样写的,所以之后它在解释为什么这样写,这是因为它要使用该公式进行计算:

输入图片说明

而上文中又有该公式:

输入图片说明

作者说这两个公式是等价的,可以有一下简图说明,当网络的情况是如下时:

输入图片说明

有对应的w和a相乘情况:

输入图片说明

可以知道,这样写对于计算是非常方便的。

#问题四

代码的数据结构

输入图片说明

至于biases和weights,都是一个list里面包括了几个array,并且从维度上来说都是箭头指向的节点所指向的神经元代表的,具体可以看问题三

#问题五 输入图片说明

输入图片说明

Proof (BP3)

由于有:

输入图片说明

输入图片说明

所以:

输入图片说明

(BP4)的证法与之相同

额,余下的一下子想整理来着,又有点乱,也许我以后会回过头来再看的,所以,先这样,这些问题恰恰是我在初次看的时候碰到的,以后就算再看,也不会有更多的问题了,只是思绪还是有些乱,奈何如今我的时间不多。

© 著作权归作者所有

共有 人打赏支持
saber-YY
粉丝 0
博文 4
码字总数 1561
作品 0
南昌
私信 提问
[译] 苹果的手写汉字识别如何实现的?

简评:苹果官方手写识别团队的技术文章,讲解了如何用机器学习的方法实现中文的手写识别。 以下「 我们」都代表「 苹果手写识别团队」。 因为手机,平板电脑和可穿戴设备如智能手表的流行,手...

极光日报
2017/11/03
0
0
Dataset 列表:机器学习研究

Face recognition In computer vision, face images have been used extensively to develop face recognition systems, face detection, and many other projects that use images of faces......

JNingWei
2017/06/28
0
0
Deep learning From Image to Sequence

本文笔记旨在概括地讲deep learning的经典应用。内容太大,分三块。 --------------------------------------------------------------------------------------------- Content 1. 回想 de......

技术mix呢
2017/11/15
0
0
25 个超棒的免费手写字体

为了让你的网站上设计一些具有手写效果的风格,我们需要一些手写的字体,可以大大的简化这个过程。本文推荐 25 个免费的手写字体,很漂亮哦。 Hand of Sean Harrison Alako-Bold font Imitat...

红薯
2011/11/13
8K
12
收集 22 款免费的手写英文字体

Faraco Hand A Year Without Rain Dear Joe 5 Casual Joy Like Sunshine Through My Windowpane Journal Angelina Lovely Eunike Hans Sweetly Broken Hand of Sean Jenna Sue Covered By Yo......

红薯
2012/01/06
4.5K
5

没有更多内容

加载失败,请刷新页面

加载更多

table边框样式

table{ border:0.5px solid #000; border-collapse:collapse; //去除边框间空隙}th,td{ border:0.5px solid #000;}...

学霸猫
23分钟前
1
0
分布式消息通讯Kafka原理分析(二)

本章重点: 1.消息的存储原理2.Partition的副本机制原理3.副本数据同步原理 消息的文件存储机制 通过如 下命令找到对应partition下的日志内容 [root@localhost ~]# ls /tmp/kafka-logs/f...

须臾之余
28分钟前
1
0
Vue Element表单绑定(四)常用操作整理

一、启用回车提交报单操作 在登录页面,使用回车提交表单操作一般是必要的一个操作。在 Element中如何使用呢,示例如下: 来个注意点: 1.button按钮的native-type设置为submit,而不是绑定c...

tianma3798
32分钟前
1
0
《大话数据结构》读后总结(七)

常见的时间复杂度 执行次数 函数阶 非正式术语 12 O(1) 常数阶 2n+3 O(n) 线性阶 3n^2+2n+1 O(n2) 平方阶 5log2n+20 O(logn) 对数阶 2n+3nlog2n+19 O(nlogn) nlogn阶 6n^3+2n^2+3n+4 O(n3) 立...

徐曙辉
34分钟前
0
0
three.js 事件交互

点击查看交互效果 在three.js中,展示的一切内容都是在canvas中绘制的,所以点击事件点击到物体上是无法获取点击对象的,要获取点击的对象要使用RayCaster,用于在三维空间中进行鼠标拾取,原...

tianyawhl
35分钟前
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部