文档章节

人工智能资料库:第4辑(20170108)

AllenOR灵感
 AllenOR灵感
发布于 2017/09/10 01:21
字数 1547
阅读 4
收藏 0

  1. 【论文】Semi-Supervised Learning with the Deep Rendering Mixture Model

简介:

半监督学习算法通过在学习期间同时使用标记的和未标记的数据来降低训练数据的成本。深度卷积网络(DCN)在监督学习的任务中已经取得了巨大的成功,因此目前也被广泛地应用于半监督学习。在本研究中,我们使用了最近开发的深度渲染混合模型(DRMM/Deep Rendering Mixture Model),这是一个概率生成模型(probabilistic generative model)——其建模了潜在的扰动变化,其推理算法产生了 DCN。我们为该 DRMM 开发了一个 EM 算法,以使该 DRMM 能够同时从标记数据和未标记数据中学习。在 DRMM 理论的指导下,我们引入了一个新的非负性约束(non-negativity constraint)和一个变分推理项(variational inference term)。在 MNIST 和 SVHN 数据集上,我们的方法实现了当前最佳的表现,在 CIFAR10 上也实现了可媲美最佳表现的结果。我们还深入研究了一个在半监督环境下训练的 DRMM 可以如何使用合成渲染的图像表征潜在的扰动变化。总的来说,本研究为监督、无监督和半监督学习提供了一个统一的框架。

原文链接:https://ankitbpatel715.files.wordpress.com/2016/12/todl_semi_supervised_learning_drmm_arxiv_v0.pdf


2.【论文&代码】Tagger: Deep Unsupervised Perceptual Grouping

简介:

我们提出了一个有效的感知推理,它能明确地对输入和特征中的分割进行推论。我们的框架是以一种无监督方法或者有时会附加任意监督任务,来对分组过程进行学习,这与此前的为特定分区进行专门训练有很大的不同。我们让一个神经网络通过可微分机制,以迭代的方式将不同的物体表征进行分组。我们通过允许系统对各个分组和其中的表征的联合迭代推理进行分批次处理,实现了非常快速地收敛。与最近提出的一些用于解决多物体识别的方法不同,我们的系统不把输入看作是图像,因此能够直接处理其他的输入形态。我们使用多数位分类来评估方法,这种分类包含了非常复杂的图像,因而需要纹理分割的。通过使用分组机制,我们的方法提高了卷积网络的分类性能,尽管网络是被完全连接的。此外,我们还观察到,我们的系统大大改进了我们的数据集上的基础的阶梯网络的半监督结果。这些结果证明,分组是一种强大的工具,能够帮助提高抽样效率。

原文链接:https://arxiv.org/pdf/1606.06724v2.pdf

代码链接:https://github.com/CuriousAI/tagger


3.【课程】谷歌新 AI 实验室主管 Hugo Larochelle 的深度学习课程

简介:

  第 0 周 引言和数学复习
  总体概览:Hugo Larochelle 在Sherbrooke课程上使用的讲义
  线性代数:吴恩达课程回顾
  统计学:William Faris 的课程笔记第三章
  抽样:Iain Murray的博士论文,第20-31页
  第 1 周 前馈神经网络
  主要内容:人造神经元、激活函数、单个神经元的能力、多层神经网络、神经网络的能力、生物学的启示。
  第 2 周 训练神经网络
  主要内容:经验风险最小化、损失函数、输出层梯度、隐藏层梯度、激活函数派生、参数梯度、反向传播、正则化、参数初始化、模型选择、优化。
  第3周 条件随机场
  主要内容:Motivation、直链CRF、文本窗口、计算分割函数、计算边际、执行分类、因子,有效统计和线性CRF,马尔科夫网络、因子图、信念传播(Belief Propagation)。
  第4周 训练CRFs
  主要内容:损失函数、一元log-factor 梯度、成对log-factor梯度、区分与生成学习、最大熵马尔科夫模型、隐藏马尔科夫模型、常规条件随机场、Pseudolikelihood
  第5周 有限玻尔兹曼机器
  主要内容:有限玻尔兹曼机器的定义、推理、自由能量、对比发散、对比发散(参数升级)、坚固的CD、例子、扩展。
  第6周 自动编码器
  主要内容:自动编码器的定义、损失函数、例子、线性自动编码器、未完成VS过完成隐藏层、去噪自动编码器、收缩自动编码器。
  第7周 深度学习
  主要内容:动机、训练的难度、非监督预训练、例子、漏失信息、深度自动编码器、深度信念网络、可变化的绑定、深度信念网络(DBN )预训练
  第8周 稀疏编码
  主要内容:定义、推理(ISTA 算法)、词典更新——映射梯度下降、词典更新——块调整下降、词学习算法、线上词学习算法、ZCA 预处理、特征提取、与V1的关系
  第9周 计算机视觉
  主要内容:动机、局部连接性、参数分享、离散卷积、池化与次抽样、卷积网络、物体识别、样本、数据集扩展、卷积RBM
  第10周 自然语言处理
  主要内容:动机、预处理、单次编码、词表征、语言建模、神经网络语言模型、分层的输出层、词标签、卷积网络、多任务学习、递归网络、合并表征、树表征、递归网络训练。

原文链接:http://info.usherbrooke.ca/hlarochelle/neural_networks/content.html


4.【博客】Image Segmentation with Tensorflow using CNNs and Conditional Random Fields

简介:

该博客描述了如何使用最近发布的TF-Slim库和预训练模型执行图像分割。并且还涵盖了使用条件随机场的训练和后处理。

原文链接:http://warmspringwinds.github.io/tensorflow/tf-slim/2016/12/18/image-segmentation-with-tensorflow-using-cnns-and-conditional-random-fields/


5.【博客】Traffic Sign Recognition with TensorFlow

简介:

这是一个有趣的项目,作者利用Tensorflow实现了对交通牌的识别。

原文链接:https://medium.com/@waleedka/traffic-sign-recognition-with-tensorflow-629dffc391a6#.xvbfirsos

代码链接:https://github.com/waleedka/traffic-signs-tensorflow


本文转载自:http://www.jianshu.com/p/0b8be7f09606

共有 人打赏支持
AllenOR灵感
粉丝 10
博文 2634
码字总数 82983
作品 0
程序员
预测流行偏好,时尚 AI 未来可望取代造型师

【Technews科技新报】预测时尚潮流是一项需要天分的工作,还得仰赖一个庞大的系统让少数人追捧的时尚进入大众流行市场,进而让业者赚取大笔钞票。现在预测工作也可以交给人工智能,让服饰业者...

黄 嬿
2017/12/26
0
0
人工智能时代的工作、学习和生活---《人工智能》阅读笔记

自从“罗辑思维”栏目从优酷网站搬到得到APP并且变为每天几分钟的节目之后,我就很少收听它了。某天,我打开得到APP,并且点开了“罗辑思维”的节目清单,发现有一期的标题包含了“人工智能”...

zhouzxi
2017/07/15
0
0
人工智能知识整理-第1辑(20170603)-机器学习入门资源汇总

有一天我忽然忘记了一个函数的用法,于是就上谷歌搜,结果搜出来的竟然是自己写的一篇笔记,上面有很详细的回答。当时感觉是跟另外一个自己进行交流,那一个是刚学完知识,印象还非常深的自己...

人工智豪
2017/06/03
0
0
人工智能资料库:第72辑(20171203)

1.【会议】Bayesian Deep Learning 简介: While deep learning has been revolutionary for machine learning, most modern deep learning models cannot represent their uncertainty nor......

chen_h
2017/12/03
0
0
免费教材丨第48期:业界大牛中文教学视频《深度学习:进阶》第25-28讲

小编说 我们将继续发放彭老师的《深度学习:进阶》课程,本期发放第25-28讲,本教材由麦子学院提供,现表示感谢。本教学视频为中文教学,代码讲解为主,通俗易懂哦! 彭亮简介 美国犹他州立大...

r1unw1w
2017/10/29
0
0

没有更多内容

加载失败,请刷新页面

加载更多

C++基础知识

链接:https://zhuanlan.zhihu.com/p/38399566 本文主要提一下以下三个区别: 引用必须初始化,而指针可以不初始化。 我们在定义一个引用的时候必须为其指定一个初始值,但是指针却不需要。 ...

悲催的古灵武士
20分钟前
0
0
Oracle备份脚本,保留10天数据

@echo off echo 删除10天前的备分文件和日志forfiles /p "D:\oracleback\backfile" /m *.dmp /d -10 /c "cmd /c del @path" forfiles /p "D:\oracleback\backfile" /m *.log /d -10......

lyle_luo
22分钟前
0
0
window版mysql备份数据

@echo off ::title name title db_backup ::color is green COLOR 2 ::defined value set yy=%date:~0,4% set mm=%date:~5,2% set dd=%date:~8,2% if /i %time:~0,2% lss 10 set hh=0%time:~......

恋码之子
25分钟前
0
0
hashmap嘿嘿嘿

1、jdk1.7 数组加链表 2、链表存放数据:hashcode相同,Entry{key:键 value:值 next:下一个节点} 3、取模算法,计算出存放数组的下标 int index = key.hashCode()%tables.length;...

熊猫你好
37分钟前
0
0
ca证书创建和docker-api证书设置

openssl genrsa -aes256 -out ca-key.pem 4096 // 这一步的密码千万不能忘记,下面要用到 openssl req -new -x509 -days 3650 -key ca-key.pem -sha256 -out ca.pem# 国家:CN# 省:.# 市......

chenbaojun
37分钟前
0
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部