飞鸽书院 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

2013年的暑假,距离比赛开始时间还有大约一个月的时间。

“模型的训练过程需要将所有的权重,数据和许多中间过程都放入GPU中进行处理。因而GPU的显存大小格外重要。”孟繁岐叹了口气,“即便是我们购买的旗舰690,也太小了,只有4G大小。”

比起后来被美国禁止卖给华国的A100-80G,690不说其他性能,单显存就少了20倍。孟繁岐如今只能可怜巴巴地每次使用16张图片对模型进行迭代。

“一次十六张,一次循环要接近一百万次才能更新完整个数据集。而想把模型收敛好,上百次循环又是少不了的。”

孟繁岐估算了一下,这个版本出一次结果要接近20天,最后的训练过程确实大概消耗了三周左右以收敛到现在的这个性能。

好在IMAGE在后来基本成为了每个算法工程师必调参的练手数据集,孟繁岐自己就曾无数次刷榜,自然是轻车熟路,清楚各类参数的大概设置。

这为他至少节省了一两个月的珍贵时间。

即便一次训练需要三周之久,孟繁岐却仍旧赶在比赛开始之前就已经准备好了一版模型。

看着训练出来的模型最终性能达到了预期,孟繁岐心中的一块大石总算落地了。

这几个月来,他唯一担心的一件事情就是多年前的老框架会出一些他意料之外的问题,导致最终的结果不能和理论预期吻合。

一旦这种事情发生,找到问题所在并测试解决的代价就太大了。倘若不能够及时解决,会很大影响到他初期的规划。

眼下的结果大约在4.9%的top-5错误率,这个版本比后世论文中的性能要稍差了一丁点,但好在仍旧强于赛事方给出的人类标准了。

一般来说,比赛前是不会公布比赛所使用的具体数据的。只是IMAGE比赛比较特殊,一千多万量级的图片,总不可能办一两次比赛就舍弃掉,不再使用。

因而每届比赛所用的数据是变化很小的,只是具体赛道,所竞争的内容和评判的方式常会有所调整。

虽说IMAGE休赛的时期其实也可以提交结果,孟繁岐现在就可以把这个结果上传上去,夺取第一的位置,但关注度毕竟不可与赛时的激烈竞争同日而语。

与此同时,唐璜也终于开始意识到事情的走向已经远远偏离了他的预料。

“我记得之前查到Alex在这上面的准确率不到85吧,你现在这个已经特么超过95了啊。”唐璜第一次来查看结果的时候完全不敢相信这个事实。

“你确定没搞错?别忽悠兄弟啊。兄弟书读的少,很容易被骗的。”唐璜此刻的心态很复杂,很希望这是真的,但由于事情实在显得太美好,反而很难相信。

“是假的,我骗你的。”孟繁岐翻了个白眼,“我加了特技,里面都是化学的成分。”

“不会吧,我亲眼看这性能一路上收敛上来的。”唐璜又翻了翻模型训练的日志,声音之中带了三分委屈。他刚刚已经在脑补自己抱紧大腿,走上人生巅峰的场景了。

这就是患得患失的可怜人啊,不敢相信,却又害怕是假的。

“虽然我没有测试集的真实答案,但是我从训练集里划了百分之5出来没有使用,作为验证的办法。”孟繁岐对这个数据集的方差可以说是了然于胸,95%的数据用于训练,5%的数据用于测试已经是相当稳妥而保守的比例了。

“也就是说,只要这百分之5的数据和测试集的数据差别不大,你的办法可以比去年的冠军强十个百分点?”唐璜仍旧还处于极度的震撼当中。“就这么简单?我还没出力呢,你们就全趴下了?”

唐璜此时的感觉,就像是夜神月第一次发现原来可以直接指派死神去除掉自己最大的对手L一样。想象中的努力,拼搏和奋斗一样都没有发生,也完全没有必要,惊人的成绩和进展甚至在比赛正式开始之前就已经获得。

“这就是人生。成功与失败很多时候可能与你并无关系,习惯就好。”孟繁岐拍了拍他的肩膀,“这次不习惯也没什么,以后的道路还有很长很长,你会习惯的。”

因为不习惯也没办法,是吧。改变不了体重的人就只能改变审美。

否则会被自己折磨一辈子的。

既然在95%的数据上已经取得了这样的结果,接下来要做的就是把余下的5%也加入进去,继续微调模型几天。

如此一来,得出的最终结果就可以直接在11月份的时候做提交所用了。

在一个性能已经相当不错的模型上继续微调它的性能,就远远用不到21天那么久的时间了。

只需两天左右的时间,新的训练日志便显示,模型的性能已经基本收敛到一个固定值,很少再继续波动。

这样的话,孟繁岐在前往澳大利亚会议现场之前,就只剩下唯一的一件事情要做,那就是补齐手头这些论文的实验数据。

将这些文章所缺的最后一块拼图填补上去。

截止此时,孟繁岐已经大约完成了接近7篇之多的文章。除了本次的参赛核心,基于残差思想的新模型Dream,以及相关的训练技巧,批归一化,Adam二阶优化器,和Mix-up数据增强之外。

本小章还未完~.~,请点击下一页继续阅读后面精彩内容!

喜欢重生之AI教父请大家收藏:(www.fgsy.net)重生之AI教父飞鸽书院更新速度全网最快。

飞鸽书院推荐阅读: 重回七七种田养娃网游:开局截胡降龙十八掌从我是特种兵开始一键回收长生:从种灵田开始修仙开局碧游村:从一人开始加点横练玄学大佬在星际摆摊后,她爆火了从全能学霸到首席科学家穿到远古部落种田搞基建秦时明月之侠道墨问我在山海经里直播种田重生1996从过目不忘开始从低维门户开始创造世界诸天从长津湖开始机战:从高达OO开始寒门隐相黛西的职场奋斗史扼元极品全能高手导演的快乐你不懂归尘记恋爱吧,江小姐模拟人生:我神明身份被曝光了相亲后,我科学家的身份被曝光我家有只花栗鼠大王快穿之才不是倒霉鬼这滴血竟然成精了海贼之我的搭档是艾斯德斯全球求生:天黑请出门儒剑仙天命第一仙封神:我帝辛再也不模拟了全球复苏:从将军庙开始签到木叶:这个忍者很强却过分卑鄙不科学御物不是主角,身陷修罗场有什么关系吞噬进化之重生成蛇这个刁蛮大小姐有点绿茶味LOL:这货绝不是职业选手自港综开始的行者派我当间谍,接头人竟是女帝魔女流修仙真实世界我在港岛无限重生应许之日庶女成凰,毒医萌妃娇又俏!鲜满宫堂为美好的海贼献上惠惠逆流创业年代我在遮天修道炼丹西游之开局加入聊天群
飞鸽书院搜藏榜: 万物起源阿卡姆神秘复苏之遗忘世间宣昭帝女魃:我家少主被人拐走了我的卡牌解锁了皮肤少年歌行,我是七剑传人重生之我是萨伊,但是动画三体高武大明:我能掠夺机缘我就没想重活什么?开局莫德里奇模板?神祇时代:从三千封号斗罗开始从给影后做替身开始!美漫开始穿梭诸天吞噬星空之巽风剑主带空间别墅穿进年代文里嫁糙汉木叶:这个忍者很强却过分卑鄙娱乐盗墓:扮演闷油瓶,队友宝儿反派:记忆曝光,让帝后哭求原谅督主曹正淳,打造最强东厂超凡秘偶师废土游戏:开局一百个黄金矿工谈一场表白成功就分手的恋爱吧网游之我遇见了神秘老人我的护士男友细胞全人类导演的快乐你不懂永生巫师在观察当我有了钞能力我在东京女校当教师前任都是天后,我火了逃荒太难,别怕!恶婆婆她有系统我在灵气复苏的世界创造精灵全职高手之拘灵遣将一亿孤行人在诸天,知恩图报斗破:我能升级万物无限复活的我越来越强了凡人,我能催熟灵药成为女魔头后,我在牢里修仙重生之开局欠了一个亿不科学御物洪荒,从神话纪元开始御兽家族:我有一本万灵图鉴没人比我更懂修炼斗罗之冰翼天使女帝太稳健了,不如我浪柯南之开局卧底怎么玩直播:水友你要喜当爹啊!睁开眼:回到老婆女儿自杀那天恐怖片求生,我有熟练度面板
飞鸽书院最新小说: 我的诡异人生内卷修仙后我从废柴成为了团宠遮天:我是白帝来自星渊带着游戏面板穿越四合院惊爆!团宠假千金被影帝大佬宠哭四合院的自在日子诸天:开局越女阿青穿成农家辣妻,带崽养夫种田忙超物种玩家大明,盛世从太子监国开始蒸汽之国的爱丽丝我在火影世界开辟信息时代斗罗:当唐三妹妹玩起成语穿越斗破之开局半圣强者折月斗将行战锤:以灰烬之名大国院士诸天:从暴风赤红开始不做人了他似人间妄想桃花山刘家修仙传姜门出贵娇武道人仙大明嫡子仙笼万教祖师御前女提刑凌爷家的影后老婆飒爆了我在九叔世界做大佬我家仙子多有病穿成幻蝶后,我苟成了斗罗团宠无限影视,从流金开始海贼:巴基她的指挥使大人又戏精了重生成慕容复:这次我是主角东京女友图鉴法海穿越唐三藏斗破之人生模拟器凡人:开局夺舍墨居仁属性无限暴涨,我横压多元我一个网约车司机有点钱怎么了?这个明星有点冷门疯了吧,你管这叫检察官我被霍格沃茨开除了?神明模拟器CSGO:这个狙击手有亿点强!修仙女配飞升了从解析太阳开始剑仙她以理服人