来自院士的邀请(2/2)

　此言一出，台下又是一片轰然议论，激烈程度甚至远超上次报告！

　因为这句话等于告诉各位，“我有很多后续的研究方向，就交给你们去做吧”！

　众所周知，好的科研成果最需要的关键就是研究思路和方向，徐毅现在的行为，就像是把馅饼做好丢到各位学者面前，而他们要做的只是张嘴接住就够了。

　听到这番话，饶是周志强都忍不住轻笑了一声：“好家伙！徐毅这是要给在场的所有人当一回导师呀，口气真大！”

　口气虽大，但学者们却一点都不反感；恰恰相反，他们巴不得这位狂生的口气再大一点，最好能给一人一条思路，省得还要互相竞争。

　至于徐毅所谓的思路是否可行，在座的众人毫不怀疑——这可是当着全世界最顶级的同行们，没有人会舍弃自己光明的学术生涯，只为了跟大家开一个大玩笑的。

　何况徐毅的“狂”在上次会议中已经有所体现了，但事实证明他只是恃才傲物而不是狂妄自大，这次应该同样言之有物！

　看到众人充满期待的目光，徐毅微微一笑，继续开口说道：

　“让我们按照的结构，逐个分析可以改进的地方吧，”

　“首先从反向传播算法开始，我们当前使用的梯度下降法，更新参数的速度与参数的梯度完全正相关，但在一个神经网络中参数间的梯度差异极大，最大者可能达到1e10这个级别，而往往第二大或者第三大者就只有1e5甚至更低，”

　“相对于主要的参数方向，其他方向上的更新极慢，这就使得梯度下降法每次只在几百万参数中更新最大的一个或者几个参数，极大地影响了训练速度……”

　“解决方法当然是减少不同参数梯度之间的差异，sign函数是一个例子，它可以让参数的更新只与梯度的符号相关，但完全消除了梯度大小的影响也过于极端，因此我们可以考虑一种折中的办法……”

　不少学者露出若有所思的神情，徐毅见状并不多言，只在讲完后等待一分钟留给大家消化，接着开始讲起下一个思路：

　“其次，卷积神经网络在层数堆叠数量超过一定值后，会出现效果的退化，这显然是不合常理的，因为假设我们在两层之间使用恒等变化，那么N层网络就可以变为N-1层网络，理论上多层的效果总会至少不弱于低层网络的效果……”

　“对于这个问题，我们可以考虑使用某种结构，使得两层之间可以更容易地学到恒等变化……”

　“对于批归一化，有……我们针对这个问题可以……”

　“对于卷积层……我们可以……”

　“…………”

　每说一个内容，徐毅都会停顿一分钟，就这样洋洋洒洒讲了十几个方向。

　在他刚开始讲述时，大厅内还有此起彼伏的议论声，但随着他讲的内容越来越多，大厅内的声音逐渐低沉，直至落针可闻。

　所有的学者，甚至连七八位院士在内，都掏出纸笔，埋头沙沙记起了笔记！

　这幅场景与其说学术交流会，倒更像是老师在上一堂别开生面的公开课！

　只不过课上的学生们，都换成了名校的教授，和各国的院士……

　徐毅讲完最后一段，意犹未尽地作出总结：“……以上就是我暂时想到的所有内容，期待大家的后续补充。”

　等他毫不拖泥带水地致谢下台后，全场仍然处在诡异的安静中。

　直到一位手速最快的教授记完笔记，甩甩发酸的手腕，犹豫地轻轻鼓起掌，

　大厅内开始慢慢响起应和的掌声，随后汇成声音的巨浪！

　全场掌声雷动，经久不歇！

　而在周志强旁边，开始还有所质疑的景峰，此时双手早已拍得通红，却仍不舍得停下。

　周志强抬头看了看周围兴奋的人群，无奈叹了口气，放下手中的纸笔，跟随大家轻轻鼓掌致意。

　“景峰，你的笔记记完了吧？”优雅地鼓着掌，周院士面向前方，目不斜视。

　同时低声询问起自己的学生，

　“回去之后让我看看，我抄一份。”