天才一秒记住【热天中文网】地址:https://www.rtzw.net
么?
上午十点,主会场。
原本只能容纳两千人的大厅被挤得水泄不通,连过道上都坐满了人。
当林允宁走上讲台时,原本还有些嘈杂的会场瞬间安静了下来。
无论这帮搞计算机的人多么心高气傲,面对一个刚刚在《Science》上发表了诺奖级理论,被物理学界视为“明日之星”
的人物,基本的敬畏还是有的。
林允宁今天没有穿正装,依然是那件标志性的深灰色连帽衫,显得随意而松弛。
他身后的屏幕上,PPT极其简洁。
标题:《DeepResidualLearningforImageRecognition》用于图像识别的深度残差学习。
“大家早上好。”
林允宁没有寒暄,直接按下翻页笔。
屏幕上出现了一张对比图。
左边是目前主流的AlexNet8层,右边是一根细长的,密密麻麻的柱状图。
“这是我们构建的深层神经网络??ResNet-101。
"
林允宁指着右边的图,声音平稳,“它有101层。”
"
--"
台下瞬间炸了锅。
“101层?他疯了吧?”
“简直荒谬!这么多层数,梯度早就消失了!根本训练不起来!”
“这就是物理学家的傲慢吗?以为层数越多越好?”
一位坐在前排,头发花白的老教授站了起来。
他是来自MIT计算机实验室的权威,坚定的SVM支持向量机拥护者。
“林先生,”
老教授也不管是不是提问环节,直接抓过麦克风,“你的理论很漂亮。
但众所周知,神经网络一旦超过20层,就会面临严重的退化问题DegradationProblem。
训练误差不降反升。
你这101层,是在做数学游戏,还是
在堆积木玩?”
台下响起一阵低笑。
深层神经网络是个漂亮的学术陷阱,这是在场所有人的共识。
加深网络层数,只会得到一堆无法收敛的垃圾参数。
林允宁并没有辩解。
他笑了笑,按下了下一页PPT。
那是ResNet的核心结构??一个简单的跳跃连接SkipConnection。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!