查看原文
其他

图灵奖颁给深度学习三巨头,他们曾是一小撮顽固的“蠢货”

量子位 宏菱环球投资俱乐部 2023-06-10

 提示:点击上方"宏菱环球投资俱乐部"↑加关注与你一起成长

美国林氏集团纽约曼哈顿维珍酒店EB5投资移民项目介绍

深度学习三巨头成为新晋图灵奖得主!

ACM刚刚官宣,Yoshua Bengio、Geoffrey Hinton、Yann LeCun获得了2018年度图灵奖,表彰他们以概念和工程的突破,让深度神经网络成为计算关键部件。

图灵奖(A.M Turing Award)创立于1966年,是计算机界的最高荣誉。

ACM这样介绍他们三人的成就:

Hinton、LeCun和Bengio三人为深度神经网络这一领域建立起了概念基础,通过实验揭示了神奇的现象,还贡献了足以展示深度神经网络实际进步的工程进展。

ACM主席Cherri M. Pancake评价说,人工智能是现在科学领域发展最快的领域之一,也是社会上最受关注的话题之一。人工智能的发展很大程度上归功于Bengio,Hinton和LeCun奠定基础的深度学习的新进展。

近年来,深度学习方法在计算机视觉、语音识别、自然语言处理、机器人等等应有领域都带来了惊人的突破。这三个人也随之走上人工智能”教父“的神坛。

其实,现代神经网络、机器学习等AI技术背后的思想,可以追溯到第二次世界大战行将结束之际。彼时,学者们开始构建计算系统,旨在以类似于人类大脑的方式存储和处理信息。

而深度神经网络早在1980年代就已经提出,但很快遭受质疑。专注于这种方法的学者,是AI界的少数派,LeCun、Hinton和Bengio就在其中。

三十多年前,是他们一生的至暗时刻。

然而,这一小撮“顽固分子”始终坚持自己的信念,他们不怕被视作蠢货,一直相信神经网络会照亮这个世界,并改变整个人类的命运。

最终他们的信念,也改变了自己的命运。

Geoffrey Hinton

Geoffrey Hinton,1947年生,现年72岁,谷歌的副总裁和工程师,也是AI研究机构Vector Institute的首席科学顾问和多伦多大学的名誉教授。

在ACM颁奖辞博文中,主要提到了Hinton的三个贡献,如果你做过AI项目,肯定不会陌生,它们分别是:

反向传播(Backpropagation)

1986年,在Learning Internal Representations by Error Propagation这篇论文里,Hinton证明了,反向传播能让神经网络发现自己内部的数据表征,这样便可以处理以往无法解决的问题。

如今,反向传播已经是神经网络的标准操作,Hinton也有了“反向传播之父”的名号。

玻尔兹曼机(Boltzmann Machines)

1983年,Hinton和同伴一起发明了玻尔兹曼机,那是最早能够学习神经元内部表征的网络之一:那些表征既不来自输入,也不来自输出。

改进卷积神经网络

2012年,Hinton和学生们一起,利用线性整流神经元(Rectified Linear Neurons)和dropout 正则化改进了卷积神经网络。

在ImageNet比赛上,他们几乎把物体识别的错误率降到了从前的一半,让计算机视觉领域焕然一新。

在获得图灵奖之前,Hinton就已经获得了大量的荣誉,手握加拿大最高荣誉勋章(Companion of the Order of Canada),是顶级认知科学奖鲁梅哈特奖的首位获奖者,也获得了人工智能国际联合会(IJCAI)杰出学者奖终生成就奖等等。

此外,他也是英国皇家学会成员、美国工程院外籍院士。

一个有趣的轶事是,Hinton的高祖父是大名鼎鼎的乔治·布尔——布尔逻辑的创立者,因“布尔检索“而闻名于世。

而即将出场的人,曾经在Hinton的实验室里做过博士后。

Yann LeCun

Yann LeCun,1960年生,58岁,现在是Facebook首席AI科学家。卷积神经网络 (CNN) 之父,是他最为人熟知的名号。

ACM列举的成就,也是从这里开始。

卷积神经网络 (CNN) :

1989年,在AT&T贝尔实验室工作的LeCun,以反向传播为基础,发表了一项研究,叫做“将反向传播用到手写邮编的识别上”。CNN的第一次实现,就是在这里诞生。

如今,CNN已经成为深度学习的基础技术了,不止在计算机视觉领域,在语音合成、语音识别这些应用中,也是行业标准操作。

反向传播雏形:

1985年,Hinton还没有成为反向传播之父的时候,LeCun在巴黎六大读博期间,发表过反向传播的一个早期版本,根据变分原理给出了一个简单的推导过程。

他用两种加速学习的方法,让反向传播变得更快了。

拓展了神经网络的视野:

LeCun不止把神经网络用在图像识别上,还解锁了许多其他任务。他提出的一些概念,如今已经成了AI领域的基础。

比如,在图像识别上,他研究了神经网络怎样学习分层特征表示 (Hierarchical Feature Representation) ,这也成为了如今许多识别任务中常用的概念。

另外,他和同伴Léon Bottou一起提出,学习系统可以由复杂的神经网络构成。在这样的系统里,反向传播是靠自动微分来实现。他们还提出,深度学习架构可以对结构化数据 (比如图形) ,进行处理。

LeCun博士毕业后,只在Hinton的实验室做了一年博士后,就进入了工业界。

不过,他在2003年成为了纽约大学的教授,还在2012年创办了纽大数据科学中心。即便加入Facebook之后,也继续在纽大兼职。

而下一位巨头,也和LeCun一样,横跨学界和产业界。并且,他也在赫赫有名的贝尔实验室工作过。

Yoshua Bengio

Yoshua Bengio,1964年生,55岁,现在是蒙特利尔大学计算机科学与运筹学系教授。

Bengio创建了蒙特利尔学习算法研究所(MILA),担任研究所的科学主任,主持加拿大高等研究院(CIFAR)机器与大脑学习项目的研究。同时,Bengio也担任着数据评估研究所(IVADO)的科学联合主任。

同样,ACM也总结了Bengio的三个主要贡献。

序列的概率模型:

上世纪90年代,Bengio提出了序列的概率模型。他把神经网络和概率模型(例如隐马尔可夫模型)相结合,用新技术识别手写的支票。外界认为,这是20世纪90年代神经网络的巅峰之作,当下语音识别技术就是在它的基础上扩展的。

高维词汇嵌入和注意机制:

Bengio参与发表了一篇里程碑式的论文,A Neural Probabilistic Language Model(神经概率语言模型),把高维词嵌入 (High-Dimentional Word Embeddings) 作为词义的表征。这对NLP研究(如翻译、问答和视觉问答等任务)产生了深远的影响。

生成对抗网络(GAN):

2014年,Bengio与Ian Goodfellow一同发表的生成对抗网络 (GAN) ,引发了计算机视觉和图形学的革命。

据统计,Yoshua Bengio发表的300多篇学术文章的累计引用次数已经超过137000次。

作为教授,Bengio曾经和Ian Goodfellow、Aaron Courville等业界大神一起写出了Deep Learning,成为人手一本的“AI圣经”,不少人将这本书亲切称之为“花书”。

除了学术界,Bengio也活跃在产业界。

曾经,Bengio联合Jean-François Gagné创立了Element AI,为那些想给自家业务寻找机器学习解决方案的公司,找到AI领域的专家。

除此之外,Bengio也有许多荣誉在身。他不仅成为了加拿大皇家学院(RSC)及加拿大高等研究院(CIFAR)的院士,还在2017年获得了代表加拿大公民最高荣誉的“加拿大总督功勋奖”。

一小撮“蠢货”

从上世纪50年代开始,神经网络的发展起起伏伏,被人唾弃过,也被屡次唱衰过。

多亏了一批最早在黑暗中等待黎明的人,不断研究探索,才有了人工智能的今天。这是一段卧薪尝胆般的故事,将Hinton、LeCun和Bengio的命运交织在一起。

三十多年以来,他们仨一直徘徊在人工智能研究的边缘地带。像局外人一样坚守着一个简单的观点:计算机可以像人类一样,通过神经网络思考,依靠直觉而不是规则。

而当时主流学术界给出的答案,是一个震耳欲聋的No。他们说计算机最佳的学习方式,就是规则和逻辑。Hinton主张的神经网络,被他们“证明”是错的。

1972年,25岁的Hinton在爱丁堡大学攻读博士学位,并把神经网络作为研究重点。导师几乎每周都会提醒他在浪费时间。然而Hinton不为所动。

1980年代LeCun在巴黎读大学时,计算机就是瞎子,无法识别图片中的内容,也无法判断摄像头前方出现了什么。但就在那个时候,LeCun偶然涉足了探索人工智能领域的一种方法:“智能神经网络”。

这并不是一条新路,而且并不受待见。但在攻读博士学位时,LeCun顶着一片质疑声专注于研究神经网络。“我只是不相信他们所说的。”他说。

1985年,Bengio在加拿大麦吉尔大学时,根本没人教神经网络。他学的是经典的、符号化的人工智能(Symbolic AI),所以,想做神经网络,必须先说服教授来指导他。

 Hinton在他的办公室

80年代末,神经网络曾有过一次小小的复苏。但由于计算力和可用数据的缺乏,人工智能再次进入寒冬。一直到2000年代初期,这群坚信神经网络的学者处境愈发边缘化。一些学术机构甚至不允许他们在会议上发表论文。计算机视觉的圈子将他们拒之门外。

在蒙特利尔大学任教的Yoshua Bengio发现,他很难找到愿意与自己共事的研究生。“我需要强迫学生从事这方面的研究,他们害怕在博士毕业后找不到工作。”

对Hinton、Bengio和LeCun来说,这是一段黑暗的时期。

“当然,我们一直相信它,也一直在研究它。”Hinton说。

“神经网络终有一天会回来——至少有很小一撮人心里是这么想的。”LeCun说。

Hinton出生于一个学术背景显赫的世家。在他长大成人的过程中,母亲给过他两种选择:“做学者,或是做失败者。”7岁就已经意识到要读博的Hinton说,自己一辈子都在压抑、沮丧中挣扎。

但他投入研究的神经网络,真真是经历过漫长而幽暗的岁月。除了面对学术上的不认可,他的两任妻子先后罹患了癌症。而他自己也深受背痛困扰。

2003年,Hinton在多伦多,被CIFAR招揽过去启动一个神经计算项目。于是,他们聚到了一起,决定努力奋斗,重新点燃这个领域的热情。

一直到大约2009年前后,计算机最终有了足够的算力挖掘大型数据库,从此神经网络开始在语音和图像识别方面战胜基于逻辑的系统。工业界很快注意到变化的发生,微软、Facebook、谷歌等科技巨头开始在这个领域投资。

 LeCun拍摄:Hinton和Bengio

Bengio评价Hinton时说“他有时可以穿过黑暗看清事物。但他的个人生活非常不容易。他也有他的黑暗时代”。

在黑暗中穿行的日子里,他始终坚持一个信念:其他人都错了。

不过最终,他们都算是等到了春天。

在去年一次彭博社的采访中,Hinton说:未来是很难预测的。当你开始试图预测未来20年会发生什么事情,你基本就错得离谱了。但也有一些东西是可以预测的,比如人工智能技术将会改变一切。

  

上文由[宏菱环球投资俱乐部]诚意推荐,内容转载自【量子位】

推荐阅读

美国林氏集团纽约曼哈顿维珍酒店EB5投资移民项目介绍

2018年度回顾-美国林氏集团林建中主席获奖记录和重大活动记录

华人女性AI科学家申省梅加盟安防新势力澎思,任职首席科学家,

由李飞飞领导,斯坦福以人为本AI学院正式成立,比尔·盖茨来捧场

“波音之父”竟是中国人?!可他的名字却几乎无人知道,他的故事

林氏集团合作伙伴维珍集团投资的OneWeb终于发卫星了

美国酒店大亨林建中支持杨安泽竞选美国总统

林氏集团合作伙伴维珍集团旗下维珍银河公司首次载客飞太空

纽约科技大学科技大厦隆重剪彩

麻省理工学院4名知名教授的突破性创业,高调宣布“即将盈利”!金属3D打印独角兽再获1.6亿美元融资丨独家专访

林建中主席出席北京大学经济学院北美经济论坛

独家|AI机器人公司优必选新一轮融资即将到位,估值达100亿美元

Waymo建设全球首个L4自动驾驶汽车生产工厂,和人类司机说再见

国内生物药物研发服务公司迈百瑞完成4亿元A轮融资

完成5亿融资,运营面积突破100万平米,“纳什空间”将赋能智慧

【独家】寒武纪B轮估值25亿美元,领跑AI芯片赛道

CES 2019上发布的芯片汇总

谷歌雷达芯片项目获批,触屏时代或将终结?

北京理工大学牵头的6项成果获2018年度国家科学技术奖

7纳米!华为鲲鹏920芯片问世,最强性能面向智能计算

阿里达摩院发布2019十大科技趋势:语音AI在特定领域通过图灵测

一群想去小行星采矿的中国人:“太空淘金梦”,别等到落后了才去

中国留学生服务中心在纽约成立

北京理工大学姜澜教授当选美国机械工程学会会士

世界首架“离子推进”飞机试飞成功!电压40千伏飞了60米,

林氏集团合作伙伴维珍超级高铁(Virgin Hyperloop One)

【林氏集团曼哈顿维珍酒店】项目介绍

拥有40多年历史的美国林氏集团是集制衣、房地产开发、酒店建造、经营、管理于一体的综合性地产集团,有30多年的房地产开发经验。在过去20年间,林氏集团已建成50多幢大厦,28家酒店,为当地创造了数以亿计的财富,近五年仅旗下酒店部门就创造了上万个全新的永久工作机会。

林氏集团五期投资移民项目:

第一期位于曼哈顿金融区的万豪Fairfield Inn & Suites酒店项目 I-526已于2015年7月25日获批,并且全部投资者在2015年11月已获批绿卡;

第二期位于曼哈顿金融区的万豪万怡酒店项目I-526也于2015年9月成功获批,投资人拿到临时绿卡;

第三期位于曼哈顿中城切尔西区的万豪万丽酒店项目I-526于2017年4月27日成功获批;

第四期位于哥伦比亚大学附近的维多利亚剧场改建及万豪酒店综合体项目即将招募80名投资者;

第五期维珍酒店商场项目也正在火热招募投资者中

林氏集团实力雄厚,历史悠久,项目稳健。本次与维珍集团的合作将会在行业引领潮流! 



投资安全

1. EB-5资金在总预算中的比重低,只占总投资的22.9%,项目对EB-5投资者资金依赖程度低

2. 地产投资核心条件是地点、地点、还是地点,我们项目在纽约曼哈顿百老汇街上(29街-30街), 处于商业中心地段

3. 55万投资款全部放在监管账户,银行尽职监督资金使用。

4. 债权人身份:EB-5投资被设计为贷款形式,投资人成为实际的债权人,投资者风险大幅度降低。

5. 项目先动工再招商:项目动工说明资金到位,手续完备,保障项目能按计划完工。

6. 公司雄厚的经济实力;在房地产行业拥有数十亿美元的资产全资拥有16家运营良好的酒店,5家在建中;酒店建造排名全美100强25名;酒店经营管理排名全美100强18名

7. 项目保证:林氏集团EB-5投资移民项目以项目土地、林氏集团的投资土地上的建筑为项目投资者提供保证。

8. 项目前景美好现金流大:曼哈顿酒店平均入住率86%,林氏集团旗下管理的酒店平均入住率92%。纽约每年有6000多万游客到曼哈顿,每天有大量现金进账。

9. 项目银行估计市值是EB-5投资总款项的8倍



上图:美国林氏集团亚太区总裁、纽约林氏区域中心总监王晓华与美国林氏集团董事局主席及首席执行官林建中及英国维珍集团总裁Richard Branson合影(从左到右)上图:林建中主席受英国查尔斯王储殿下邀请,赴英国考察访问。曼哈顿维珍酒店项目获英国王室肯定


林氏集团美国总部地址202 Centre Street,6th Floor,New York,NY 10013

亚太区总部地址:北京市朝阳区大羊坊路89号新华国际广场C座501

EB-5项目地址1205-1227 Broadway, New York, NY 10036


如有咨询林氏集团曼哈顿维珍酒EB-5投资移民项目及中美酒店、房地产及中美科技创投、股权投资等业务的请联系:

美国林氏集团中国区高级经理

鹤山市家乐居房地产有限公司董事

鹤山市沙坪镇宏菱电气自动化设备中心CEO

           李卓平  先生

电话:86-0750-8422319

手机:13725966319(广东)/13121897248(北京)

微信:lzhping

电子邮箱:1205252917@qq.com

上图:中国区业务经理李卓平与王晓华总裁在中国广州投资移民分享会的合照  

点击 | 关键词 |查看对应精品文章

 林氏集团及旗下公司、合作伙伴新闻:


“第十八届中国文旅全球论坛”群星闪耀

【中国文旅全球论坛】之煮酒会英雄

林建中主席受邀出席美国交通部长赵小兰新年联欢会

林氏集团助力“温暖中国,全球华人春节大联欢”

年度回顾丨美国林氏集团林建中主席2017获颁的重大奖项殊荣

林氏投资移民第五期曼哈顿“维珍酒店”项目2017年10月进

美国林氏集团纽约曼哈顿维珍酒店EB5投资移民项目介绍

王晓华总裁对美国林氏集团EB5投资移民项目的精彩演讲

2017美国亚洲小姐选美总决赛在林氏集团旗下酒店完

美国林氏集团合作伙伴维珍集团创始人理查德·布兰森

林氏集团弘扬中华文化,助力“温暖中国,全球华人春

与美国总统共进早餐是种怎样的体验?

美国林氏集团及美国广东侨胞联合总会受邀参加江门市

美国林氏集团合作伙伴英国维珍集团同沙特签10亿美

中美酒店总商会成立大典圆满落幕

锦上添花-美国林氏集团林建中主席再获殊荣

美国林氏集团林建中主席荣获【终身成就奖】

美国林氏集团曼哈顿金融区万豪酒店封顶

林氏集团林建中主席获颁国际领袖才能奖

总部有五万七千员工的美国交通部由华裔精英掌舵!

林氏第五期曼哈顿“维珍酒店”2017年7月进度报告

最佳实习机会等待你!

林氏第三期曼哈顿“万豪万丽”2017年7月进度报告

万豪也进军邮轮界了,这是大势所趋吗?

英国维珍集团布兰森放豪言: 只要付20万英镑, 2018送你和

英国维珍集团投资的OneWeb“星座互联网”计划

万豪和喜达屋合并后纽约的酒店管理巨头将会是?

特朗普酒店总裁盛邀林氏集团林建中主席强强联手

美国中美酒店总商会力挺Felix W.Ortiz竞选纽约市议员

林氏集团EB5项目一路过关斩将顺利获批!

林氏集团投资俱乐部受邀参加美国国家AAPI商业峰会

英国维珍集团投资超音速载人飞机, 一日往返

重大喜讯! 林氏集团第三期项目客户I-526获批

林氏集团哈林区维多利亚剧院正式破土动工


维珍酒店简介:


上图:纽约维珍酒店效果图(旁边是纽约帝国大厦)

         2015年9月25日,由两位世界闻名的商业巨子:英国维珍集团总裁Richard Branson美国酒店大亨林氏集团主席林建中携手合作,投资五亿美金建造的纽约五星级维珍酒店于曼哈顿百老汇大道夹29街举行奠基仪式。坐落于全世界最昂贵地段的维珍酒店将是纽约十大建筑之一,也是一个为帮助更多中国精英投资移民建造的最稳健最有实力的投资项目,创造3418个就业机会,并提供200个宝贵的投资移民名额

上图:纽约曼哈顿维珍酒店奠基仪式

上图:美国林氏集团董事局主席及首席执行官林建中和英国维珍集团总裁Richard Branson合影


     纽约维珍酒店将成为纽约最大、最时尚的,拥有近500个房间的五星级大酒店,还有购物中心,美食广场,运动场所,娱乐休闲等。比伦摩天大廈,世界最大的Macy 百貨公司,韓國城,年青人的創業商業中心區,Google總部。2014年底开始拆楼,经过近十个月的清拆,旧楼已全部拆平。2016年开始建设地基及主体,2019年02月中已经封顶并开始内外装饰。


上图:2018年07月维珍酒店近照


上图:2019年01月维珍酒店近照


上图:2019年02月维珍酒店近照


上图:维珍酒店商业部分效果图


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存