天才一秒记住【热天中文网】地址:https://www.rtzw.net
Hx=Fx+x
“教授,您说得对。
深层网络很难训练,就像让一个人传话给第100个人,信息肯定会失真。”
林允宁指着那条连接线,“但如果我们给信息修一条‘高速公路呢?
“我们不再让网络去学习完整的输出,而是让它只学习‘残差’Residual。
如果这一层什么都不做,它就是恒等映射IdentityMapping,信息可以无损地流向下一层。
“这不仅仅是数学游戏。
为了训练这个模型,以太动力的算力中心满负荷运转了整整两周。
“数学不会骗人,但直觉会。
至于它到底是不是浪费电费......”
林允宁看了一眼台下神色各异的众人,关掉了PPT:
“下午的ImageNet挑战赛,结果会说明一切。”
下午三点,ImageNetWorkshop现场。
这里的气氛比上午还要紧张。
李飞飞教授站在台侧,手心里全是汗。
这是ImageNet的第一战,如果大家都跑不出好成绩,那这个巨大的数据集就会沦为业界的笑柄。
大屏幕上,实时的排行榜Leaderboard正在滚动。
比赛已经开始半小时了。
排在第一的是微软亚洲研究院的团队,Top-5错误率:26.2%。
紧随其后的是牛津大学的VGG组:26.8%。
谷歌团队:27.1%。
数字在小数点后一位艰难地跳动着。
每一次刷新,如果有队伍能降低0.1%,都会引来一阵小小的欢呼。
这就是2008年计算机视觉的天花板。
在SVM和手工特征提取的框架下,想再进一步,比登天还难。
“看来这就是极限了。”
刚才提问的那位MIT老教授摇了摇头,有些遗憾,“25%左右的错误率,离实用还差得远。
也许,机器的视觉极限就在这里了......”
站在老教授身边的李飞飞,神色也有些黯淡。
确实,这个级别的错误率,意味着无法使用。
也就意味着ImageNet注定只是个算法的试金石,而不是真正实用的数据库。
“以太动力提交了。”
不知道是谁喊了一嗓子。
所有人的目光都集中到了屏幕的最后一行。
几秒钟的延迟后。
大屏幕突然闪烁了一下。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!