文档章节

最漫长的一次训练

q
 qinhui99
发布于 2017/08/22 16:37
字数 316
阅读 59
收藏 0

这几天为了参加Kaggle某图像处理比赛,训练了一个大尺寸的u-net模型。一共训练了42轮,每轮3800秒以上,花费了将近48个小时。此外,为了生成提交文件,又额外花费了7个小时。两天半的时间就这样没了。

 

过程之所以这么漫长,是因为精度要求比较高(0.997以上才有希望拿到好的名次)。输入图片尺寸1024*1024,经过实验,只有采用了1024个以上filter的卷积层组成的U-NET,才有可能达到这样的精度。对于这个复杂的U-NET,我的GTX 1060 6G显存的GPU真地吃不消。一个批次最多只能训练两条数据,否则就内存溢出。如果有12G显存的GPU的话,训练时间可以减少一半以上。

 

这次漫长的训练,最大的收获是:学会了耐心等待,确认了带不断衰退的学习率的SGD优化器是可靠的。

------------------------------------------------------------------------------------------------------------

0823,更新

尝试训练1280x1280尺寸的图片,结果一次只能训练一张图片,训练一轮需要5430秒,实在是太慢了。考虑用mxnet方案来替换tensorflow。

 

© 著作权归作者所有

共有 人打赏支持
q
粉丝 66
博文 72
码字总数 32863
作品 0
深圳
程序员
私信 提问
拜托了,给初级码农一次机会吧

国庆前,投递了N份简历,感觉全部石沉大海,陷入了漫长的等待和猜想中,得出一个结论:基本没戏!应届生不敢奢望有太高的待遇,但求能够在大城市中养活自己,真心是抱着一颗学习的心态来的。...

君子之耀
2013/10/04
1K
18
让AI自动调参,才是百度无人车的进化方式:适应环境全靠自己 | 论文

车栗子 发自 凹非寺 量子位 出品 | 公众号 QbitAI  自动驾驶汽车,需要应对各式各样的路况,工作环境是每时每刻在变化的。 所以,训练好L4级的自动驾驶系统并不简单。需要依赖奖励函数 ...

量子位
2018/08/31
0
0
如何写出自己的underscore防抖

前言 为什么我们要在项目中使用防抖??? 随着计算机的不断发展,浏览器也在飞速的更新迭代。从刚开始的只是展示图文排版的网页,到现在人机交互和科学计算的动态项目。不同的时代同样也推动...

hubvue
2018/12/02
0
0
从零开始深度学习-1 TensorFlow的环境搭建

前言 该系列的文章重点不放在理论的研究方面,而是通过实践来不断了解理论。 什么是机器学习 机器学习,顾名思义,让机器去实现人类的学习行为。传统的编程中,如果需要解决一个问题,需要程...

养薛定谔的猫
2018/01/10
0
0
理工男的文科梦 —— LSTM深度学习写春联

笔者作为一名根正苗红的理工男,内心却常常有很多文艺青年才会有的想法,例如写首诗、做首词,甚至包括春节写副对联,空有一番愿望却胸无点墨。随着对机器学习和深度学习的了解,逐渐萌生了使...

biggeng
2017/10/26
0
0

没有更多内容

加载失败,请刷新页面

加载更多

阿里大规模数据中心性能分析

郭健美,阿里巴巴高级技术专家,目前主要从事数据中心的性能分析和软硬件结合的性能优化。CCF 系统软件专委和软件工程专委的委员。曾主持国家自然科学基金面上项目、入选上海市浦江人才计划A...

阿里云官方博客
29分钟前
1
0
Coding and Paper Letter(四十四)

资源整理。 1 Coding: 1.Rstudio2019年会“机器学习应用”的幻灯片,代码和数据 rstudio conf 2019 2.R语言包sparkxgb,Spark上XGBoost的R接口。 sparkxgb 3.自动SQL注入和数据库接管工具。 ...

胖胖雕
31分钟前
1
0
Ubuntu最新的主要操作系统放弃32位支持?

现在是2018年,2019年即将到来——64位处理器已经成为主流很长一段时间了。如果你仍然使用32位的电脑,那么是时候把它扔进垃圾箱了。 我为所有基于Linux的操作系统维护者感到自豪,他们有勇气...

Linux就该这么学
33分钟前
1
0
Fundebug发布Vue插件,简化BUG监控接入代码

摘要: 代码越短越好! 我们发布了fundebug-vue插件,可以简化Vue框架接入Fundebug的代码。 Vue如何接入Fundebug 1. 安装fundebug-javascript与fundebug-vue npm install fundebug-javascrip...

Fundebug
40分钟前
1
0
MySQL学习笔记之二

数据库的操作总结就是:增删改查(CURD),今天记录一下基础的检索查询工作。 检索MySQL 1.查询表中所有的记录 mysql> select * from apps;+----+------------+-----------------------+------...

凌宇之蓝
50分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部