文档章节

不懂GPU深度学习,何以谈人工智能?

小虾米DYX
 小虾米DYX
发布于 2017/08/03 13:37
字数 621
阅读 31
收藏 1
点赞 0
评论 0

点击查看全文

一年半以前,AlphaGo完胜李世乭的围棋赛让深度学习(Deep Learning)这个名词家喻户晓,再度掀起了人工智能的新一波热潮。

其实深度学习背后的神经网络基础理论早在上世纪50年代就已提出,经过几起几落的发展,到了21世纪初,多层神经网络算法也日趋成熟。深度学习理论早在十多年以前就有重要突破,为何直到近年才出现爆发?

这不得不提到2012年的一场竞赛...

2012年,Geoffrey E. Hinton(与Yann LeCun 和Yoshua Bengio并称为深度学习三驾马车)的弟子Alex Krizhevsky在ILSVRC-2012的图像分类比赛中使用2块Nvidia GTX 580 GPU训练的多层神经网络(后来被称为AlexNet)以15.3%的top-5测试错误率摘得冠军,而使用传统方法的第二名的成绩是26.2%,整整提高了10多个百分点。这也成为了深度学习发展史上的里程碑事件,从此深度神经网络一炮走红,此后ILSVRC的优胜者一直被深度神经网络霸占。

可以说深度学习爆发有两个主要原因, 一个是像ImageNet这样的大规模数据集的出现,而另一个重要原因就是计算能力的提高,而这主要得益于GPU用于深度学习的加速,尤其是深度学习训练的加速 。

Alex当时使用的数据集包含120万张高清图片,受限于单块GTX 580 GPU 3GB的内存,他们使用了2块GPU来训练他们包含6000万参数和65万神经节点的网络,当时花了5~6天的时间。可以想象,没有GPU的加速,要完成如此大规模的数据集的多层神经网络训练要花费多长的时间。

随着深度网络层数的增加,训练集动辄以T为单位计算,现在深度学习的训练已经离不开GPU了,而GPU的计算能力也在不断的提升,以满足深度学习训练的计算需求。

所以,对AI开发者来说,掌握GPU深度学习技能几乎是一项必备技术了。在get到这一技能之前,当然得调整姿势了...

 

点击查看全文

 

 

© 著作权归作者所有

共有 人打赏支持
小虾米DYX
粉丝 0
博文 113
码字总数 0
作品 0
海淀
2017 中国 AI 服务器市占率超 57%,看浪潮如何编织 AI 生态大网

随着深度学习带来 AI 的第三次浪潮,对 AI 的相关讨论层出不穷,算法是大家关注的重点。 算法固然重要,但想做好 AI,还需要强大的底层支撑。谷歌在训练 AlphaGo Zero 时,用到 2000 块 TPU,...

思颖 ⋅ 06/03 ⋅ 0

GTC CHINA2016在京举行 助力中国开启人工智能黄金时代

2016年9月13日——中国北京—— 全球久负盛名的GTCCHINA 2016 (GPU技术大会)今天在北京召开,NVIDIA联合创始人、总裁兼首席执行官黄仁勋出席大会,深度阐释GPU计算产品与解决方案平台将如何拓...

玄学酱 ⋅ 05/15 ⋅ 0

NVIDIA 与京东集团达成战略合作

2016年9月13日——中国北京—— 在今天举办的GPU技术大会 (GTC CHINA 2016) 上,全球视觉计算的行业领袖NVIDIA®(英伟达™)与中国领先的自营式电商企业京东集团宣布达成战略合作并共建联合...

玄学酱 ⋅ 05/15 ⋅ 0

业界 | 英伟达官方解读:Volta Tensor Core GPU实现AI性能新里程碑

  选自NVIDIA   作者:Loyd Case   机器之心编译   参与:Panda      大规模深度学习应用的开发对性能有很高的需求,作为深度学习加速器 GPU 硬件的核心供应商,英伟达一直在不断...

机器之心 ⋅ 05/10 ⋅ 0

NVIDIA 2017年将培训10万名深度学习开发人员

2017年5月9日,GPU技术大会——NVIDIA宣布,2017年将通过NVIDIA深度学习学院(NVIDIA Deep Learning Institute)培训10万名开发人员,以满足人工智能领域对专业技能飞速增长的需求。这一数字...

玄学酱 ⋅ 04/12 ⋅ 0

英特尔人工智能大会:新版AI芯片和AI路线图

  美国旧金山时间5月23日上午,英特尔人工智能开发者大会(AI DevCon 2018)在旧金山艺术宫开幕,英特尔副总裁、AI事业部(AIPG)负责人Naveen Rao主持会议。   Naveen Rao目前是英特尔A...

中国机器人 ⋅ 05/24 ⋅ 0

为什么GTC大会上,Power的全新服务器备受推崇?

不久前在北京举办的GTC China大会,是NVIDIA一年一度的GPU技术盛会。此次GTC再度回到北京,其火爆程度令人咋舌。而大会上发布的诸多新品,不仅令技术迷们高呼过瘾,而且再一次证明人工智能,...

玄学酱 ⋅ 05/11 ⋅ 0

【重磅】英特尔AI大会:新AI芯片和这家巨头的AI路线图

▼ 点击上方蓝字 关注网易智能 为你解读AI领域大公司大事件,新观点新应用 在半导体时代,英特尔的影响力不言而喻,而在全新的的AI时代,英特尔宣布全面拥抱AI并打造软硬件生态全位一体的战略...

mcil9g4065q ⋅ 05/24 ⋅ 0

全球深度学习系统市场报告:Top 6 深度学习企业

深度学习的应用越来越广,而起码在未来五年,这个领域仍将由这些顶尖的公司和机构领军。 Technavio是一家全球技术研究与咨询公司,其最近的《全球深度学习系统市场报告》选出了全球Top 6的深...

行者武松 ⋅ 03/07 ⋅ 0

人工智能芯片产业面面观 谁将成就最强大脑

  1492年哥伦布从西班牙巴罗斯港出发,一路西行发现了美洲。葡萄牙人达伽马南下非洲,绕过好望角到达了印度。不久之后,麦哲伦用了整整三年时间,完成了人类史上第一次环球航行,开启了人类...

中国机器人 ⋅ 06/06 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

Spring发展历程总结

转自与 https://www.cnblogs.com/RunForLove/p/4641672.html 目前很多公司的架构,从Struts2迁移到了SpringMVC。你有想过为什么不使用Servlet+JSP来构建Java web项目,而是采用SpringMVC呢?...

onedotdot ⋅ 24分钟前 ⋅ 0

Python模块/包/库安装(6种方法)

Python模块/包/库安装(6种方法) 冰颖机器人 2016-11-29 21:33:26 一、方法1: 单文件模块 直接把文件拷贝到 $python_dir/Lib 二、方法2: 多文件模块,带setup.py 下载模块包(压缩文件zip...

cswangyx ⋅ 43分钟前 ⋅ 0

零基础学习大数据人工智能,学习路线篇!系统规划大数据之路?

大数据处理技术怎么学习呢?首先我们要学习Python语言和Linux操作系统,这两个是学习大数据的基础,学习的顺序不分前后。 Python:Python 的排名从去年开始就借助人工智能持续上升,现在它已经...

董黎明 ⋅ 51分钟前 ⋅ 0

openJdk和sun jdk的区别

使用过LINUX的人都应该知道,在大多数LINUX发行版本里,内置或者通过软件源安装JDK的话,都是安装的OpenJDK, 那么到底什么是OpenJDK,它与SUN JDK有什么关系和区别呢? 历史上的原因是,Ope...

jason_kiss ⋅ 今天 ⋅ 0

梳理

Redux 是 JavaScript 状态容器,提供可预测化的状态管理。 它是JS的状态容器,是一种解决问题的方式,所以即可以用于 react 也可以用于 vue。 需要理解其思想及实现方式。 应用中所有的 stat...

分秒 ⋅ 今天 ⋅ 0

Java 后台判断是否为ajax请求

/** * 是否是Ajax请求 * @param request * @return */public static boolean isAjax(ServletRequest request){return "XMLHttpRequest".equalsIgnoreCase(((HttpServletReques......

JavaSon712 ⋅ 今天 ⋅ 0

Redis 单线程 为何却需要事务处理并发问题

Redis是单线程处理,也就是命令会顺序执行。那么为什么会存在并发问题呢? 个人理解是,虽然redis是单线程,但是可以同时有多个客户端访问,每个客户端会有 一个线程。客户端访问之间存在竞争...

码代码的小司机 ⋅ 今天 ⋅ 0

到底会改名吗?微软GVFS 改名之争

微软去年透露了 Git Virtual File System(GVFS)项目,GVFS 是 Git 版本控制系统的一个开源插件,允许 Git 处理 TB 规模的代码库,比如 270 GB 的 Windows 代码库。该项目公布之初就引发了争...

linux-tao ⋅ 今天 ⋅ 0

笔试题之Java基础部分【简】【二】

1.静态变量和实例变量的区别 在语法定义上的区别:静态变量前要加static关键字,而实例变量前则不加。在程序运行时的区别:实例变量属于某个对象的属性,必须创建了实例对象,其中的实例变...

anlve ⋅ 今天 ⋅ 0

Lombok简单介绍及使用

官网 通过简单注解来精简代码达到消除冗长代码的目的 优点 提高编程效率 使代码更简洁 消除冗长代码 避免修改字段名字时忘记修改方法名 4.idea中安装lombnok pom.xml引入 <dependency> <grou...

to_ln ⋅ 今天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部