人工智能资料库:第4辑(20170108)
人工智能资料库:第4辑(20170108)
AllenOR灵感 发表于7个月前
人工智能资料库:第4辑(20170108)
  • 发表于 7个月前
  • 阅读 2
  • 收藏 0
  • 点赞 0
  • 评论 0

【腾讯云】新注册用户域名抢购1元起>>>   


  1. 【论文】Semi-Supervised Learning with the Deep Rendering Mixture Model

简介:

半监督学习算法通过在学习期间同时使用标记的和未标记的数据来降低训练数据的成本。深度卷积网络(DCN)在监督学习的任务中已经取得了巨大的成功,因此目前也被广泛地应用于半监督学习。在本研究中,我们使用了最近开发的深度渲染混合模型(DRMM/Deep Rendering Mixture Model),这是一个概率生成模型(probabilistic generative model)——其建模了潜在的扰动变化,其推理算法产生了 DCN。我们为该 DRMM 开发了一个 EM 算法,以使该 DRMM 能够同时从标记数据和未标记数据中学习。在 DRMM 理论的指导下,我们引入了一个新的非负性约束(non-negativity constraint)和一个变分推理项(variational inference term)。在 MNIST 和 SVHN 数据集上,我们的方法实现了当前最佳的表现,在 CIFAR10 上也实现了可媲美最佳表现的结果。我们还深入研究了一个在半监督环境下训练的 DRMM 可以如何使用合成渲染的图像表征潜在的扰动变化。总的来说,本研究为监督、无监督和半监督学习提供了一个统一的框架。

原文链接:https://ankitbpatel715.files.wordpress.com/2016/12/todl_semi_supervised_learning_drmm_arxiv_v0.pdf


2.【论文&代码】Tagger: Deep Unsupervised Perceptual Grouping

简介:

我们提出了一个有效的感知推理,它能明确地对输入和特征中的分割进行推论。我们的框架是以一种无监督方法或者有时会附加任意监督任务,来对分组过程进行学习,这与此前的为特定分区进行专门训练有很大的不同。我们让一个神经网络通过可微分机制,以迭代的方式将不同的物体表征进行分组。我们通过允许系统对各个分组和其中的表征的联合迭代推理进行分批次处理,实现了非常快速地收敛。与最近提出的一些用于解决多物体识别的方法不同,我们的系统不把输入看作是图像,因此能够直接处理其他的输入形态。我们使用多数位分类来评估方法,这种分类包含了非常复杂的图像,因而需要纹理分割的。通过使用分组机制,我们的方法提高了卷积网络的分类性能,尽管网络是被完全连接的。此外,我们还观察到,我们的系统大大改进了我们的数据集上的基础的阶梯网络的半监督结果。这些结果证明,分组是一种强大的工具,能够帮助提高抽样效率。

原文链接:https://arxiv.org/pdf/1606.06724v2.pdf

代码链接:https://github.com/CuriousAI/tagger


3.【课程】谷歌新 AI 实验室主管 Hugo Larochelle 的深度学习课程

简介:

  第 0 周 引言和数学复习
  总体概览:Hugo Larochelle 在Sherbrooke课程上使用的讲义
  线性代数:吴恩达课程回顾
  统计学:William Faris 的课程笔记第三章
  抽样:Iain Murray的博士论文,第20-31页
  第 1 周 前馈神经网络
  主要内容:人造神经元、激活函数、单个神经元的能力、多层神经网络、神经网络的能力、生物学的启示。
  第 2 周 训练神经网络
  主要内容:经验风险最小化、损失函数、输出层梯度、隐藏层梯度、激活函数派生、参数梯度、反向传播、正则化、参数初始化、模型选择、优化。
  第3周 条件随机场
  主要内容:Motivation、直链CRF、文本窗口、计算分割函数、计算边际、执行分类、因子,有效统计和线性CRF,马尔科夫网络、因子图、信念传播(Belief Propagation)。
  第4周 训练CRFs
  主要内容:损失函数、一元log-factor 梯度、成对log-factor梯度、区分与生成学习、最大熵马尔科夫模型、隐藏马尔科夫模型、常规条件随机场、Pseudolikelihood
  第5周 有限玻尔兹曼机器
  主要内容:有限玻尔兹曼机器的定义、推理、自由能量、对比发散、对比发散(参数升级)、坚固的CD、例子、扩展。
  第6周 自动编码器
  主要内容:自动编码器的定义、损失函数、例子、线性自动编码器、未完成VS过完成隐藏层、去噪自动编码器、收缩自动编码器。
  第7周 深度学习
  主要内容:动机、训练的难度、非监督预训练、例子、漏失信息、深度自动编码器、深度信念网络、可变化的绑定、深度信念网络(DBN )预训练
  第8周 稀疏编码
  主要内容:定义、推理(ISTA 算法)、词典更新——映射梯度下降、词典更新——块调整下降、词学习算法、线上词学习算法、ZCA 预处理、特征提取、与V1的关系
  第9周 计算机视觉
  主要内容:动机、局部连接性、参数分享、离散卷积、池化与次抽样、卷积网络、物体识别、样本、数据集扩展、卷积RBM
  第10周 自然语言处理
  主要内容:动机、预处理、单次编码、词表征、语言建模、神经网络语言模型、分层的输出层、词标签、卷积网络、多任务学习、递归网络、合并表征、树表征、递归网络训练。

原文链接:http://info.usherbrooke.ca/hlarochelle/neural_networks/content.html


4.【博客】Image Segmentation with Tensorflow using CNNs and Conditional Random Fields

简介:

该博客描述了如何使用最近发布的TF-Slim库和预训练模型执行图像分割。并且还涵盖了使用条件随机场的训练和后处理。

原文链接:http://warmspringwinds.github.io/tensorflow/tf-slim/2016/12/18/image-segmentation-with-tensorflow-using-cnns-and-conditional-random-fields/


5.【博客】Traffic Sign Recognition with TensorFlow

简介:

这是一个有趣的项目,作者利用Tensorflow实现了对交通牌的识别。

原文链接:https://medium.com/@waleedka/traffic-sign-recognition-with-tensorflow-629dffc391a6#.xvbfirsos

代码链接:https://github.com/waleedka/traffic-signs-tensorflow


  • 打赏
  • 点赞
  • 收藏
  • 分享
共有 人打赏支持
粉丝 8
博文 2139
码字总数 82983
×
AllenOR灵感
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: