“三巨头”获图灵奖的背后:宽容的研究环境、师徒合作与个人坚守 | 微众银行首席AI官杨强点评
2019年3月27日,计算机协会 (Association for Computing Machinery, ACM)宣布,2018 年图灵奖获得者是号称深度学习三巨头的 Yoshua Bengio、Yann LeCun 和 Geoffrey Hinton。
这是人工智能发展史上重要的一天。曾被业内高度怀疑、备受冷落的神经网络获得了计算机行业的最高认可。
腾云第一时间邀请了国际人工智能联合会IJCAI主席、香港人工智能与机器人学会理事长、微众银行首席AI官杨强教授对此做出解读。在他的解读之后,我们附上了与本次奖项相关的背景介绍,便于你理解这一事件的重要意义。
记得深度学习这个名词刚刚出现的时候,有不少人在问: 深度学习不就是以前的神经网络吗?这次获奖证明远远不是。Hinton 是一个理想主义者,年轻的时候就因为不想参加美国政府军事研发而前往加拿大,对自己认为对的方向坚信不疑。记得最近他给国际人工智能大会讲演的结语,也是他给AI界的警句,说你们这些做AI的人,如果不接受深度学习的话,将第一个被取代。
这次三位教授同时获奖,也说明好的师生团队是可以做大事的。团队另外两位Bengio和LeCun长期独立推进深度学习的理论和系统研发,以及在工业界产生巨大影响,同时也培养了大批下一代的人才。
这次获奖也体现出加拿大的研究体制对长期研究的容忍性。因为加拿大的不少研究项目是五年才需要申请一次,而且比较注重用申请者以往的研究成果来研判项目的优劣,不太受时髦课题的左右。
同时,这次得奖也体现了计算机界对人工智能第三次浪潮的认可,以及对于“机器可以思维吗?”这一图灵终极问题获得最终答案的信心。
——杨强
三巨头在获奖后第一时间接受了BBC新闻的采访:
“我认为计算机科学界已经认识到这件事情(指神经网络)并非不可靠(flaky),这很棒。”Hinton说,“很多年来,他们都认为神经网络是不被尊重的。我认为我们刚刚开始了一场大革命。” Yoshua Bengio和Yann LeCun也在各自的社交媒体上表达了荣幸和感激之情。
这是1993年录制的一段视频,在视频里,Yann LeCun演示了电脑识别手写数字的成果。
1
什么是神经网络?
程序通过明确的指令一步步向计算机传递命令,这是我们最熟悉的传统计算模式。
而在深度学习这一人工智能研究的子领域中,计算机并未得到关于如何解决某个任务的显式说明。
学习算法可以从数据中提取输入数据与期望输出的关联模式,比如由图片中某个像素(输入数据)关联到某一类标签(例如:苹果)。而研究者面临的挑战是如何开发出高效的学习算法,修改神经网络中连接的权重以使它能够捕捉到数据中的关联模式。
自 20 世纪 80 年代开始,Geoffrey Hinton 就开始提倡使用机器学习方法进行人工智能研究,他希望通过人脑运作方式探索机器学习系统。受人脑的启发,他和其他研究者提出了“人工神经网络”(artificial neural network),为机器学习研究奠定了基石。
在计算机科学领域,“神经网络”是指由计算机模拟的由简单的计算原件——“神经元”构成的层的组合。这些“神经元”通过加权连接相互影响,通过改变连接的权重,可以改变神经网络所执行的计算。Hinton、LeCun 和 Bengio 意识到通过使用多层网络来构建深度网络的重要性,进而提出了“深度学习”这一概念。
2
为什么是他们?
神经网络能取得今日之成绩,除了计算机技术的突飞猛进外,绝对离不开以这三位巨头为代表的人工智能先驱们的信心、热情与勇气。三巨头投入此项研究的时间长达40年之久,而在神经网络真正成为流行之前的数十年间,他们都处于不被看好甚至被排挤的状态。
《连线》杂志曾在一篇报道中描写过这样一个细节:1972年,Hinton获得博士学位, 并选择将神经网络作为他的研究重点。每周,他的导师都会告诉他,他是在浪费时间。因出于对里根政府外交政策——特别是对南美洲强硬政策——的强烈不满,Hinton坚决放弃了由美国国防部支持的研究项目。1978年,Hinton和妻子搬到加拿大多伦多,并接受了加拿大高级研究所(CIFAR)的工作。在多伦多的一间小办公室里,他正式开始了机器与大脑学习项目。
此外,Hinton是最早开始思考机器与人类关系的科学家之一。他曾向联合国签署过一份请愿书,呼吁禁止使用致命的自动武器,并拒绝担任与通信安全机构有关的董事会的职位。
LeCun也有相似的经历。
他在Hinton指导下完成了博士后论文,随后在贝尔实验室找到一份人工智能研究工作。BuzzFeed对他的一篇专访中记录了这样一段故事:在90年代中期的贝尔实验室,他的小组因内部斗争而被解散,即便当时LeCun认为研究已经有了显著成果,“就在成功的黎明来临之际,整个项目却被解散得差不多了”。同一时期,Bengio也是该实验室的成员。
“他们或独立工作,或一起合作,共同奠定了这一领域的概念基础”,正如获奖理由中提到的,在这几十年间,即使他们三人并没有成为同事,他们也始终保持彼此影响、互相协同的关系。
ACM主席Cherri M. Pancake也高度评价了三巨头对人工智能领域的贡献:
“人工智能的发展以及人们对于人工智能的兴趣很大程度归功于 Bengio、Hinton 和 LeCun 为深度学习的最新进展奠定的基础。数十亿人都在使用着这一技术。任何口袋里装着智能手机的人都可以体验到自然语言处理和计算机视觉方面的进步,而这些在十多年前都是不可能的。
获奖科学家简介
———
Yoshua Bengio,蒙特利尔大学计算机科学与运筹学系全职教授,也是深度学习“三巨头”中唯一一位仍全身心在学术界工作的大牛。他在深度学习架构、循环神经网络(RNN)、对抗算法、表征学习等方面有诸多科研积累,对近年来深度学习的崛起和发展起到了巨大的推动作用。
Geoffrey Hinton,谷歌副总裁兼工程研究员,Vector Institute 的首席科学顾问,多伦多大学的名誉大学教授。他在神经网络的训练方面、计算机视觉领域做出过重大贡献。2012 年,他改进了卷积神经网络,并在著名的 ImageNet 评测中取得惊人成绩。
Yann LeCun,Facebook人工智能研究院负责人,纽约大学数据科学中心的创始人之一。他将反向传播算法引入了CNN(卷积神经网络),并且发明了权值共享、池化等技巧,让CNN真正更为可用。他还在 1998 年开发了 LeNet5——首个被大规模商用的 CNN,并制作了被Hinton称为“机器学习界的果蝇”的经典数据集 MNIST 。
参考资料
1. DeepTech深科技:“三巨头”齐获图灵奖!沉浮30载终于开启AI复兴时代
2. 知识分子:昔日被嗤为骗子,今日摘得图灵奖 | 业界热评
3. 机器之心:重磅 | 2018图灵奖公布!Hinton、Bengio、LeCun深度学习三巨头共享
想在第一时间看到我们的推文吗?
动动手指把腾云设置成⭐星标吧!
丨 往期回顾