第204章 易碎的“玻璃糖”（求订阅求月票）（2/2）

林允宁坦然承认，“线性注意力确实会导致注意力分布的‘平滑化’。它没法像Softax那样，在几万个词里精准地只盯着一个看。它看东西确实是‘模糊’的。”

他退出PPT，切到了代码终端界面。

“但是，工程学本质上就是关于取舍（Trade-off）的艺术。”

林允宁输入了一行指令，加载了一个巨大的数据文件。

“这是人类1号染色体的基因序列片段，长度为100，000个碱基对。

“在这个尺度上，我们并不需要关注某一个具体的碱基A还是T。我们需要关注的是宏观的、长距离的、全局的关联。

“对于基因测序，或者对于一本百万字的小说来说，‘看清大概的轮廓’比‘看清某一个标点符号’重要一万倍。”

“Ru.”

林允宁按下了回车键。

大屏幕上，内存监控的波形图开始滚动。

如果是传统的O(N^2)算法，这条红线会在0.1秒内冲破顶端，然后程序报错。

全场几百双眼睛死死盯着那条红线。

一秒。两秒。三秒。

红线微微抬起了一点点，大约占据了128MB的内存，然后……变成了一条毫无波澜的直线。

【Processig...100%.Doe.】

【Tiepsed:3.42s.】

三秒钟。

处理完了十万长度的序列。虽然它的注意力可能是“散光”的，但它跑完了。

而魏斯电脑上的那个精准的Softax算法，还在报着“OutofMeory”。

“一个能跑完的模糊算法，永远比一个跑不起来的完美算法有价值。”

林允宁看着台下的魏斯，语气诚恳，“魏斯博士，这就是我目前给工业界的答案。我们不需要在每一件事上都追求完美，有时候，为了看见整片森林，我们必须接受看不清树叶的代价。

“当然，随着技术的进步，这个算法还有很大的成长空间。”

魏斯看着屏幕上那条平直的内存曲线，沉默了很久。

作为工程师，他无法反驳这个逻辑。

在当前芯片的算力下，能跑通，本身就是最大的胜利。

他合上那台依然报错的外星人笔记本，脸上傲慢的神色消退了不少。

他并没有鼓掌，只是对着台上的年轻人微微点了点头，算是一种同行间的认可。

“聪明的取舍。”

第一排，一直没说话的杰弗里·辛顿突然开口了。

老人的声音不大，但全场瞬间安静下来。

“大脑也是这么工作的。”

辛顿推了推眼镜，目光深邃，“我们的大脑从来不会对每一个视网膜像素进行精确计算。我们也是‘散光’的，我们只关注大概。这很……符合生物学直觉。”

听到“生物学直觉”这个词，杨立昆也笑了，带头鼓起了掌。

掌声雷动。

这不是为了一个完美的数学证明，而是为了一个务实的、能解决问题的工程创举。

程新竹在台下拼命鼓掌，手掌都拍红了。

方雪若则迅速拿出手机，拍下了林允宁站在那条平直曲线前的背影——

这张包含了好几位计算机领域大佬照片，将是以太动力最好的广告。

……

报告结束，人群还没散去。

林允宁刚走下讲台，辛顿教授就走了过来，递给他一张没有任何头衔的名片。

“年轻人，虽然你的算法牺牲了精度，但它打开了一扇门。”

辛顿看着他，“今晚的闭门会，记得早点来。有些关于‘大脑’的秘密，或许我们可以在私下里聊聊。”

林允宁接过名片，刚想说话，口袋里的黑莓手机突然震动了一下。

是一封新邮件。

发件人：宋胤乾（SogYiqia）。

林允宁心头一跳。热二极管的样品结果出来了。

他跟辛顿教授道了声歉，走到角落里点开邮件。

【允宁：有好消息，也有坏消息。

好消息是：你的掺杂配方是对的。

我们在42°C观测到了明显的绝缘体-金属相变，热导率突变了近10倍。原理验证机成功了。

坏消息是：这东西很脆。

因为钨原子的半径太大，强行挤进晶格后导致结构应力极大。

我们测试了几个样品，基本上在经过两三次热循环后，薄膜就会发生龟裂，甚至直接从基底上剥落。

目前的寿命，最多也就是几十分钟。如果你没有解决晶格应力的办法，这个‘热二极管’项目，恐怕只能停留在实验室阶段了。】

附件里是一张电镜照片。

原本平整的掺杂二氧化钒薄膜上，布满了像蜘蛛网一样细密的裂纹，触目惊心。

林允宁看着那张照片，苦笑了一声。

42度的相变点。

这是完美的开关温度。

但一个只有几十分钟寿命，用三次就会碎的开关，毫无价值。

这就是科研。

按下了一个葫芦，永远有三个瓢在等着你。

“怎么了？”

方雪若走过来，察觉到了他脸色的变化。

“没事，热二极管的实验结果出来了。”

林允宁收起手机，深吸了一口气，“我们要走的路，比想象中还要长得多。”

……