文档章节

人工智能资料库:第4辑(20170108)

AllenOR灵感
 AllenOR灵感
发布于 2017/09/10 01:21
字数 1547
阅读 4
收藏 0

  1. 【论文】Semi-Supervised Learning with the Deep Rendering Mixture Model

简介:

半监督学习算法通过在学习期间同时使用标记的和未标记的数据来降低训练数据的成本。深度卷积网络(DCN)在监督学习的任务中已经取得了巨大的成功,因此目前也被广泛地应用于半监督学习。在本研究中,我们使用了最近开发的深度渲染混合模型(DRMM/Deep Rendering Mixture Model),这是一个概率生成模型(probabilistic generative model)——其建模了潜在的扰动变化,其推理算法产生了 DCN。我们为该 DRMM 开发了一个 EM 算法,以使该 DRMM 能够同时从标记数据和未标记数据中学习。在 DRMM 理论的指导下,我们引入了一个新的非负性约束(non-negativity constraint)和一个变分推理项(variational inference term)。在 MNIST 和 SVHN 数据集上,我们的方法实现了当前最佳的表现,在 CIFAR10 上也实现了可媲美最佳表现的结果。我们还深入研究了一个在半监督环境下训练的 DRMM 可以如何使用合成渲染的图像表征潜在的扰动变化。总的来说,本研究为监督、无监督和半监督学习提供了一个统一的框架。

原文链接:https://ankitbpatel715.files.wordpress.com/2016/12/todl_semi_supervised_learning_drmm_arxiv_v0.pdf


2.【论文&代码】Tagger: Deep Unsupervised Perceptual Grouping

简介:

我们提出了一个有效的感知推理,它能明确地对输入和特征中的分割进行推论。我们的框架是以一种无监督方法或者有时会附加任意监督任务,来对分组过程进行学习,这与此前的为特定分区进行专门训练有很大的不同。我们让一个神经网络通过可微分机制,以迭代的方式将不同的物体表征进行分组。我们通过允许系统对各个分组和其中的表征的联合迭代推理进行分批次处理,实现了非常快速地收敛。与最近提出的一些用于解决多物体识别的方法不同,我们的系统不把输入看作是图像,因此能够直接处理其他的输入形态。我们使用多数位分类来评估方法,这种分类包含了非常复杂的图像,因而需要纹理分割的。通过使用分组机制,我们的方法提高了卷积网络的分类性能,尽管网络是被完全连接的。此外,我们还观察到,我们的系统大大改进了我们的数据集上的基础的阶梯网络的半监督结果。这些结果证明,分组是一种强大的工具,能够帮助提高抽样效率。

原文链接:https://arxiv.org/pdf/1606.06724v2.pdf

代码链接:https://github.com/CuriousAI/tagger


3.【课程】谷歌新 AI 实验室主管 Hugo Larochelle 的深度学习课程

简介:

  第 0 周 引言和数学复习
  总体概览:Hugo Larochelle 在Sherbrooke课程上使用的讲义
  线性代数:吴恩达课程回顾
  统计学:William Faris 的课程笔记第三章
  抽样:Iain Murray的博士论文,第20-31页
  第 1 周 前馈神经网络
  主要内容:人造神经元、激活函数、单个神经元的能力、多层神经网络、神经网络的能力、生物学的启示。
  第 2 周 训练神经网络
  主要内容:经验风险最小化、损失函数、输出层梯度、隐藏层梯度、激活函数派生、参数梯度、反向传播、正则化、参数初始化、模型选择、优化。
  第3周 条件随机场
  主要内容:Motivation、直链CRF、文本窗口、计算分割函数、计算边际、执行分类、因子,有效统计和线性CRF,马尔科夫网络、因子图、信念传播(Belief Propagation)。
  第4周 训练CRFs
  主要内容:损失函数、一元log-factor 梯度、成对log-factor梯度、区分与生成学习、最大熵马尔科夫模型、隐藏马尔科夫模型、常规条件随机场、Pseudolikelihood
  第5周 有限玻尔兹曼机器
  主要内容:有限玻尔兹曼机器的定义、推理、自由能量、对比发散、对比发散(参数升级)、坚固的CD、例子、扩展。
  第6周 自动编码器
  主要内容:自动编码器的定义、损失函数、例子、线性自动编码器、未完成VS过完成隐藏层、去噪自动编码器、收缩自动编码器。
  第7周 深度学习
  主要内容:动机、训练的难度、非监督预训练、例子、漏失信息、深度自动编码器、深度信念网络、可变化的绑定、深度信念网络(DBN )预训练
  第8周 稀疏编码
  主要内容:定义、推理(ISTA 算法)、词典更新——映射梯度下降、词典更新——块调整下降、词学习算法、线上词学习算法、ZCA 预处理、特征提取、与V1的关系
  第9周 计算机视觉
  主要内容:动机、局部连接性、参数分享、离散卷积、池化与次抽样、卷积网络、物体识别、样本、数据集扩展、卷积RBM
  第10周 自然语言处理
  主要内容:动机、预处理、单次编码、词表征、语言建模、神经网络语言模型、分层的输出层、词标签、卷积网络、多任务学习、递归网络、合并表征、树表征、递归网络训练。

原文链接:http://info.usherbrooke.ca/hlarochelle/neural_networks/content.html


4.【博客】Image Segmentation with Tensorflow using CNNs and Conditional Random Fields

简介:

该博客描述了如何使用最近发布的TF-Slim库和预训练模型执行图像分割。并且还涵盖了使用条件随机场的训练和后处理。

原文链接:http://warmspringwinds.github.io/tensorflow/tf-slim/2016/12/18/image-segmentation-with-tensorflow-using-cnns-and-conditional-random-fields/


5.【博客】Traffic Sign Recognition with TensorFlow

简介:

这是一个有趣的项目,作者利用Tensorflow实现了对交通牌的识别。

原文链接:https://medium.com/@waleedka/traffic-sign-recognition-with-tensorflow-629dffc391a6#.xvbfirsos

代码链接:https://github.com/waleedka/traffic-signs-tensorflow


本文转载自:http://www.jianshu.com/p/0b8be7f09606

共有 人打赏支持
AllenOR灵感
粉丝 11
博文 2635
码字总数 83001
作品 0
程序员
私信 提问
iTop 2.4.0 中文汉化版

iTop 2.3.3 在2016年12月22日发布,我在第一时间开始了汉化工作, (itop 2.4.0 汉化已完成,见百度网盘) 改进如下: 1、对官方汉化不全的基础上进行审核校验并深入汉化,除了安装向导,整体...

紫色葡萄
2016/12/30
0
0
人工智能资料库:第72辑(20171203)

1.【会议】Bayesian Deep Learning 简介: While deep learning has been revolutionary for machine learning, most modern deep learning models cannot represent their uncertainty nor......

chen_h
2017/12/03
0
0
【备忘】小迪2017年网络安全培训第15期

小迪2017年网络安全培训第15期 ├─20161113 │ 20161113_01.exe │ 20161113_02.exe │ 文档.docx │ ├─20161120 │ │ 20161120_01.exe │ │ 20161120_02.exe │ │ DirBuster-0.12-Set......

qq_38155396
2017/06/30
0
0
预测流行偏好,时尚 AI 未来可望取代造型师

【Technews科技新报】预测时尚潮流是一项需要天分的工作,还得仰赖一个庞大的系统让少数人追捧的时尚进入大众流行市场,进而让业者赚取大笔钞票。现在预测工作也可以交给人工智能,让服饰业者...

黄 嬿
2017/12/26
0
0
人工智能知识整理-第1辑(20170603)-机器学习入门资源汇总

有一天我忽然忘记了一个函数的用法,于是就上谷歌搜,结果搜出来的竟然是自己写的一篇笔记,上面有很详细的回答。当时感觉是跟另外一个自己进行交流,那一个是刚学完知识,印象还非常深的自己...

人工智豪
2017/06/03
0
0

没有更多内容

加载失败,请刷新页面

加载更多

Spring boot中如何获取profiles环境

  实现ApplicationContextAware @Componentpublic class QiNiuPropertiesConfig implements ApplicationContextAware { /// 获取当前环境public String getActiveProfile() { ret......

writeademo
15分钟前
0
0
机器学习中的End-to-End到底是怎么回事?

简单讲就是,Input--->系统(这里指神经网络)--->Output(直接给出输入,NN神经网络就给出结果,一气喝成!!!) 借用一段对话:(http://dy.163.com/v2/article/detail/C3J6F2NJ0511AQHO....

火力全開
16分钟前
0
0
maven多个模块只编译并且只打包指定的模块

在多module的maven项目中,如果每次打包整个工程显得有些冗余和笨重。 命令:mvn clean package install -pl 模块的名称 -am

lifes77
17分钟前
0
0
eosjs中文手册【2.0】

访问地址:eosjs 2.0 中文手册 - 汇智网

汇智网教程
21分钟前
0
0
vue-cli 3 分环境打包

在vue-cli3的项目中, npm run serve时会把process.env.NODE_ENV设置为‘development’; npm run build 时会把process.env.NODE_ENV设置为‘production’; 此时只要根据process.env.NODE_...

灰白发
29分钟前
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部