天才一秒记住【热天中文网】地址:https://www.rtzw.net
当数据量达到千万级别时,传统的统计学习方法会因为算力瓶颈而崩溃。
林先生那个ON的算法,可能是唯一能吃下这些数据的解药。”
争论在小小的房间里升温。
这就是2007年的AI界。
混沌、分裂。
旧秩序尚未崩塌,新王还未登基。
“笃、笃。”
辛顿用烟斗轻轻敲了敲烟灰缸,清脆的声音让房间重新安静下来。
“哲学讨论到此为止。”
老人的目光穿透烟雾,死死盯着林允宁,“林,光有漂亮的几何概念是不够的。
你需要展示你的‘魔法’是如何运作的。
在这个流形上,你打算怎么走路?”
林允宁笑了笑。
他回过身,擦掉了那个莫比乌斯环。
在这一刻,他的脑海中闪过的不是枯燥的代码,也不是复杂的线性代数。
而是那天午后,在内维尔市的“圣马丁”
养老院里,那位患有阿?海默症的老教授。
记忆已经破碎,逻辑已经崩塌。
但当爵士乐的鼓点响起,那根枯瘦的手指依然能精准地敲击在每一个切分音上。
那是超越了语义的、大脑最底层的拓扑结构。
记忆可以破碎,但连接的模式永存。
林允宁在白板上写下了一个简洁到令人发指的公式:
x_t+1=x_t+Attentionx_t
“这就是行走的方式。”
林允宁指着公式中的加号,“这叫残差连接ResidualConnection。
我们保留原始的信息xt??那是数据的本体。”
然后,他指着后面那一项:
“再加上注意力机制。
这不是在做分类,而是在做‘自适应曲率变换’。
网络在海量的信息流形中,通过注意力去感知哪里是平坦的,哪里是卷曲的,然后动态地调整自己的形状去贴合数据。”
房间里死一般的寂静。
刚才还在敲击键盘记录的杰夫?迪恩JeffDean,手指悬停在了半空中。
蒙特利尔大学的本吉奥YoshuaBengio微张着嘴,眼镜滑到了鼻尖。
他们都是绝顶聪明的人。
林允宁不需要解释太多,他们一眼就看穿了这个公式背后的恐怖野心。
林允宁转过身,面对着这群即将掌握着全球人工智能命脉的大佬们,说出了那个后来被学术界称为“科瓦利斯预言”
的论断:
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!