春夏中文

手机浏览器扫描二维码访问

第14章 万事俱备(第2页)

更深的网络特别难以训练,因此原本直到14年,谷歌和牛津才分别把这个深度推进到22层和19层。

而Resnet的思想,彻底从根本上解决了网络变深就没法顺利训练的问题。它让5o,1oo,15o,甚至1ooo层网络的训练成为可能。

“从去年的8,到今年的1oo+层,甚至1ooo层也可以训练。在2o13年的视角来看,这一剂猛药应该够劲了。”

不仅是深度上取得了开创性的突破,Resnet的性能也同样惊人。它是第一个Top-5错误率低于人类能力的结构,单模型达到了4.6%左右。

如果综合几个不同方式训练的Resnet,平均他们的输出再去预测的话,其Top-5错误率甚至低至3.7%。

“其实在ImageneT上做得太准了反而是一件怪事。”

考虑到后世的研究中,该数据集中的标签其实有不小的比例是错误的,越贴近百分之百的准确率反而越有一些荒诞的感觉。

Resnet的Res指residua1,正经点说是残差,说得明白一些是一种短路或者是跳跃链接。

再说的浅显一点,假设原本的操作为f(x),Resnet就是把计算过程从f(x)改为f(x)+x。

这也是孟繁岐最早与付院长讨论的内容之一。

这种不带任何参数的支路链接,直接把操作前的内容加到操作后的内容上,是深度网络突然能够在上千层的深度下收敛的秘密所在。

在此之后的几乎所有aI文章,都很难绕得开这个思路。kaiming本人单就这一篇文章,就在六七年的时间内收获了十五六万的文章引用。

不得不说这是一个天文数字。要知道即便是naturenetce三大世界级顶刊常客,著名华国美国双料科学院士抽出一个来,至今为止所有文章的总引用数量加在一起五万多都算是多的了。

当然了,单以论文被引用的次数来评价文章的水平和作者的水平是有失偏颇的。

很多基本学科曲高和寡,看得人少写得人也少。引用自然就上不去。

但就aI这个实用性实验性比较强的学科来说,内部去对比的话,引用的多少含金量还是相当之高的。

大家只会用代码投票,有价值的东西会一直迭代下去。有利于自己模型在任务上性能提升的技术,则会被一直引用下去。

学术界一直有这样的说法,搞理论的和搞实验的两边相互看不起。这倒也不是无中生有。

kaiming凭借几篇代表作奠定自己历史地位后,就总有个别人喜欢说什么“Resnet的思想早就有人提过了”

,“几十年前的东西不算什么东西”

,“这篇文章也就是流量大罢了,和流量明星是一样的”

酸味都要溢出屏幕了。

孟繁岐不是没读过一些理论类的文章,但他个人觉得时代的aI,ta1kischeap,shomethecode。你说几十年前就有的东西,怎么不写一个Resnet突破人类水准呢?

Resnet的核心代码难写吗?不难的。

基于a1ex的框架,只需几个小时的时间,他就可以基本复现出Resnet论文中的所有结构。

弱小和无知不是生存的障碍,傲慢才是。

本章完

热门小说推荐
快穿:别闹,宿主她只想低调

快穿:别闹,宿主她只想低调

简介关于快穿别闹,宿主她只想低调[甜宠1v1双洁女强]灵魂破损,碎片飘落各小世界,郁芊原来我是个切片的?系统找来,穿梭小世界收回碎片并挽救因为碎片从天之骄子变成小可怜的气运之子,郁芊原来我是去赎罪的!后来,郁芊现事情变得不对劲起来不是,她的灵魂碎片为什么会在一个陌生男人身上啊!!!病弱世子埋头撒娇留在我身边,哪儿都别去。清冷教授柔情似水既是我养的小兔儿,你的一切都是我的。黑化兽神阴沉抱住你的眼睛里只能有本神的存在!…灵魂碰撞,命运交汇,开始是你,我为了你,也一直是你。...

镇国杀神

镇国杀神

戎马饮血,守一方国泰民安!竟然得知有人强迫他妻子女儿和岳母同嫁一个智障!杀神怒了!注定血流成河!今天我自战场归来讨债!那些陷害过我的背叛过我的伤害过我的准备接受杀神的裁决!不会让你们等太久因为我手中的刀真的很快!镇国杀神...

七零军婚甜如蜜,科研军嫂上大分

七零军婚甜如蜜,科研军嫂上大分

军婚科研年代团宠年龄差一朝猝死,沈桑榆穿成了作天作地,军区大院全体人员避如蛇蝎的新婚小媳妇儿。沈桑榆斗极品,虐渣渣,顺便干起老本行搞科研!此时,华国科技落后,各项技术惨遭别国卡脖子。此时,华国科技还未展,科研经费严重不足!没办法,那就只有努力挣钱搞科研了。后来,一架新型战斗机直上云霄,蛟龙潜水艇成为国之重器,九章巨星计算机耀眼全球!此刻,华国科研技术站在世界巅峰...

兔子报恩十世不晚

兔子报恩十世不晚

猪八戒在广寒宫点了一把火,他想借此和嫦娥私奔。嫦娥的玉兔,差点就被这场火烧个魂飞魄散。玉兔被修仙凡人云卿所救,云卿却因此被烧死。玉兔一心报恩,在得知云卿要历经十世轮回的时候,下凡追随只为能还了救命之恩。一连追随九世的玉兔,均没有用武之地。直到第十世,她总算有了些用处。然而,她却得知自己之前九世都寻错了恩公。这一世,...

我和总裁师妹一起干翻系统

我和总裁师妹一起干翻系统

简介关于我和总裁师妹一起干翻系统这个世界不正常,动不动就有人挂着系统出来耍,系统来自哪里?系统究竟是什么?系统帮你有何目的?你什么都不知道就绑定系统?艾玛,不说了,系统又来追杀我了!...

开局修为千年,活到天荒地老

开局修为千年,活到天荒地老

简介关于开局修为千年,活到天荒地老沈青穿越到修仙世界,觉醒了修为系统。沉睡十年,就会获得百倍的修为,也就是一千年的修为。但前提是他得需要灵石,才能在沉睡中获得百倍加成,起步十年。沈青对打打杀杀没什么兴趣,他只想长生久世,体验红尘事,掌握世间法,看遍人间事,逍遥天地间,畅游星河梦,顺便赚赚钱。毕竟修为上去了,寿命也自然久远了。于是他沉睡十年,曾经的城镇已经物是人非。沉睡百年,此时的南域已经生变故。沉睡千年,当年的宗门已经走向没落。沉睡万年,昔日的小鸟已经成为神鸟。百万年后一名黑袍面具男子,冷冷的说道姑娘你挡道了,不要妨碍我赚钱。青衣女子傲然道阁下是谁?这么嚣张,你家在哪?指个方向,我只出一剑。至高神,沈青。说着,他一剑斩出,星河破碎,整个诸天万界为之一颤。...

每日热搜小说推荐