查看原文
其他

致敬传奇:中国并行处理四十年,他们从无人区探索走到计算的黄金时代 | GAIR 2021

陈彩娴 雷峰网 2021-12-14


记录学术史背后的激荡故事,致敬那些推动中国计算学科发展的传奇人物。

作者 | 陈彩娴

编辑 | 岑峰

时代造英雄,或英雄造时代,是历史记录中的一个经典「耦合」问题。
如同「先有鸡还是先有蛋」的讨论般,奇人与奇世的关系往往难解难分。但当我们着眼于现代科技史的变迁,这个吸引思辨学家数千年的哲学问题又往往能够得到一个如公式定理般的答案——人才先于技术。
更直接点,就是先有创新人才的出世,而后才有科技传奇的诞生
近十余年来,人工智能的突破离不开算力的提升,而并行处理则是近二十年来计算能力快速提升的主要推手。
尽管算力与算法、数据被广泛并称为人工智能的「三驾马车」,但却鲜少有人关注到算力腾飞背后的人物。尤其在中国,从四十年前连顶尖学府清华大学都没有电脑与计算器,到今日在世界计算乃至超算拥有话语权的强国,背后又有怎样的故事?
回顾计算的历史,我们发现:并行处理的系统性突破始于20世纪80年代,而这一领域的开创者正是一位华人——1983年,当时在美国普渡大学任教的黄铠教授出版了《计算机结构与并行处理》一书,该书作为并行处理领域的第一本国际性经典著作,推动了高性能计算的研究热潮,也为我国「863」计划上马智能计算机选型通用并行计算机起到了至关重要的作用。
图注:黄铠教授参与GAIR 2021大会
从高性能计算到普适计算、云计算,从PC平台到互联网平台、物联网平台,每一个计算时代的发展都从系统结构发展开始,接着是系统软件、应用软件,最后随着问题求解环境的发展而达到顶峰。并行处理作为解决单处理器速度瓶颈的最好方法之一,已成为计算机科学的核心领域,得以蓬勃成长。
在过去的两年,雷峰网GAIR大会分别举办了「中国人工智能四十周年(1979-2019)」与「纪念Thomas S. Huang:中国计算机视觉的四十年传承」两大致敬传奇的主题论坛,历史厚重感与学术前瞻性兼具,获得极高讨论度。
今年,GAIR大会继续沿袭了往届传统,开设了「并行处理与系统结构40年」的圆桌论坛,从如今时任香港中文大学(深圳)校长讲席教授的黄铠博士出发,围绕黄铠博士与其所启发的多位中国计算引领者的故事,诠释了一颗颗富有中国梦、中国心与中国魂的学者之心。

1


爱国学者促学术交流

对于上世纪中叶出生、在美留学的华人学生来说,众多历史与个人的激荡交织中,最令人印象深刻的事件之一,莫过于70年代的「保钓运动」。
1969年,美国政府发布《美日联合公报》,声明将钓鱼岛的管辖权划归日本,引起在美华人的愤怒。于是,1970年至1971年间,美国高校的华裔学生掀起了一场轰轰烈烈的保钓运动,许多后来举世闻名的华人学者如杨振宁、丘成桐、陈省身等均参与其中。
此外,彼时,由于中美尚未建交,大陆赴美的留学生寥寥无几,所以参与者更多为港台留学生,黄铠是参与保钓运动最早的成员之一。黄铠在四岁那年随父母从上海去台湾,从小就对祖国有神往之情,想加深对祖国大陆的了解。
那一年,黄铠刚从夏威夷大学取得硕士学位,前往加州大学伯克利分校读博。从60年代起,伯克利就是美国学生「言论自由运动」的中心,当时也是海外华人「保钓运动」的大本营。在保钓运动的激情感染下,黄铠对祖国的向往与感情更加浓烈了。
于是,1974年,已从伯克利博士毕业、时任普渡大学助理教授的黄铠借由与清华大学进行学术交流的机会,踏上了前往中国的寻根之旅。
在GAIR大会上,黄铠回忆1974年第一次重返中国大陆的情景,仍然记忆犹新、热泪盈眶:「当时访问,我连旅费都没有,还找朋友们借了钱,买了机票,从纽约转巴黎、开罗、巴基斯坦,再绕过喜马拉雅山与新疆大沙漠,一共飞了34个小时才到北京。」
图注:2010年,黄铠访问上海交通大学
从1974年以后,黄铠便与中国高校建立了密切的学术交流,在清华大学、北京大学、中国科学院、浙江大学与香港大学等等学校担任客座教授。
1978年,黄铠刚到清华担任客座教授时,国内连一本关于计算的教科书都没有,更别说电脑。由于文革,停滞了十几年的中国当时远远落后于世界科技的发展脚步。由于国内的老师都没有接触过西方的计算机知识,黄铠从美国带回来的几大箱资料成为了上世纪中国学者系统学习计算机的关键窗口。
此前,黄铠在接受清华大学的人物访谈中曾回忆当时的场景:
「没有印刷纸,就找人民日报社借来七桶滚筒纸。八开的纸,双面印,有时候正面的字浮现在反面上。还有人扛着两个大摄像机,将上课内容全部录下来,再复制到全国高校放映。」
有感于当时国内计算机教科书的稀缺,黄铠在结束清华的讲座、返回美国后,将他在中国上课七周的资料进行精心整理,并投入大量精力编撰,于1983年完成了当时国际上第一本《计算机系统结构与并行处理》英文专著,一时「洛阳纸贵」,在全球范围内产生了重要影响。
图注:黄铠教授著作合集,左二为《计算机系统结构与并行处理》
回顾黄铠在学术上的贡献,出版计算领域的权威教科书无疑是其最亮眼的成就之一。秉承着为中国学子带来计算机系统知识的愿望,黄铠在后来的学术生涯里笔耕不辍,一共独立或合作编撰了十本权威的学术专著,在计算机知识的教学与传承上做出了巨大贡献。
后来,《计算机系统结构与并行处理》这本书由清华大学包括郑纬民在内的教师们翻译成中文,于1985年由中国科学出版社出版,影响了一代中国学子。
图注:郑纬民
郑纬民院士是最早翻译黄铠著作的中国学者之一。他一共翻译了黄铠的两本书,分别是《计算系统结构与并行处理》与《高等计算机系统结构并行性、可扩展性、可编程性》。
作为计算机系统结构的学科带头人,郑纬民曾带领团队用一年时间研制成功了中国当时运行频率最高的高性能嵌入式CPU-THUMP107。
郑纬民谈到,他在1965年考上清华大学,1966年遇上文化大革命,所以他基本没有学过专业课,关于系统的知识是从黄铠教授的书中所学。
在翻译《高等计算机系统结构并行性、可扩展性、可编程性》一书时,郑纬民感到「很费劲」,因为他对系统结构的知识了解不深,于是他在翻译的时候,就一边翻译、一边将不懂的问题记下来,一共记了一百多个问题。
后来,他刚好有机会到新加坡参加学术会议,恰好黄铠教授也来参会,他便拿着这一百多个问题给黄铠请教应该如何翻译,黄铠十分耐心地给他作了解读。
郑纬民与清华大学计算机系的其他老师将黄铠的三本书翻译成中文,在国内出版,对中国并行处理研究起到了很大的推动作用。

2


为国造「士」,启发人才

作为最早推动中美计算机学术交流的学者之一,黄铠博士关注国内人才的培养。在清华教学期间,他竭尽全力为在大陆就读的学子带来国际计算领域的前沿研究与先进视野,启发了一代又一代中国学子在计算方向创造辉煌。
中国计算领域的传奇人物——李国杰院士,便是在听取黄铠的讲座后进入了计算机体系结构的大门。
学生们对新知识的渴望使黄铠的课堂成为当时清华最热门的话题之一。黄铠在清华主楼的大讲堂授课,六百多人的大讲堂下座无虚席,李国杰便是其中之一。
在GAIR 2021的大会上,李国杰院士直言黄铠是中国并行计算与人工智能计算的引路人。在他就读于清华大学时,他也是在黄铠教授的课堂上才了解到数据流(Data Flow)等新概念。
此外,李国杰也是黄铠在普渡大学招收的第一位来自中国大陆的学生。
1979年,黄铠在清华办讲座,特地在课上表明自己有意愿招收博士生。于是,对计算机感兴趣的李国杰便给黄铠写信,表达了想去普渡留学深造的想法。彼时,普渡大学是全球人工智能研究的重要集结地之一,黄铠刚升上副教授,便帮李国杰申请到了去普渡攻读博士的机会。
但当李国杰于1981年硕士毕业、到普渡大学读博时,恰巧赶上黄铠外出访学,于是黄铠便将李国杰推荐到了华云生(Benjamin Wah)的门下读博。
1987年,李国杰学成归国,加盟中国科学院计算研究所,在促进中国计算机体系结构发展变革上扮演了重要角色:长期从事国家「863计划」高技术研究,两次担任国家「973 计划」项目首席科学家,主持研制曙光一号并行计算机等重大项目等等。1995年,李国杰当选中国工程院院士。
图注:李国杰院士
虽然在美国任教,但黄铠十分鼓励在美国的中国留学生学成归国,参与建设中国的科技发展大业。在黄铠教授的鼓励下回国的中国学生前前后后有好几百人。
1995年,李国杰创建曙光信息产业有限公司后,急需人才,黄铠便向他推荐了当时毕业、在美漂泊的徐志伟。于是,1996年,徐志伟从美国回到中国,担任曙光信息产业有限公司的总工程师。
徐志伟原先在普渡大学读硕。1984年,黄铠从普渡转到南加州大学任教,徐志伟又跟着黄铠从普渡到了南加州读博,在1987年取得博士学位。但博士毕业后,他先后辗转于美国罗格斯大学、纽约工业大学、南加州大学等校,直到1996年回国、担任曙光2000总设计师才正式开始施展宏图大志。
图注:徐志伟
在黄铠的门下,徐志伟很幸运地见证了计算机体系结构的研究重点从并行运算器过渡到并行处理器。在GAIR 2021的大会上,徐志伟感慨:「后来我才知道我有多幸运。」
1995年,正好是徐志伟准备回国时,当时计算领域的主要变化是从并行处理器过渡到并行计算机。在黄铠的指导下,徐志伟又早早接触了机群(Cluster)的概念。Cluster与IBM在1964年为发展通用计算提出的S/360一样,是具有规模可扩展性、功能可扩展性通用并行的新系统结构。
回国后,徐志伟继续与黄铠合作研究,并在1998年一起出版了一本关于可扩展并行计算的教材,也就是广为传播的《Scalable Parallel Computing》一书(如下)。这些研究也启发了中科院计算所曙光高性能计算系统从原来的超级计算机向超级服务器的转型,他在曙光上的研究工作两次获得国家科技进步二等奖。
「这期间还发生了很多奇妙的事情。我1983年去美国时,是李老师接我的。13年后(1996年)回到中国,也是李国杰老师接我的。」徐志伟笑着说:「所以这一切都是很自然的缘分。」
除了人才交流培养与鼓励学成归国,黄铠也常教育学生「要有世界眼光,要提出自己的思想与观点,为国际学术界做贡献」。换言之,就是不仅要从国际学习,也要「影响国际」,向国际学术界输出先创性成果。
这一点徐志伟尤其有体会。2011年9月,「NSF中美计算机科学论坛」(NSF US-China Computer Science Summit)在美国新泽西召开。徐志伟、倪明选、刘云浩与Kirk Cameron四位黄铠门生出席。以徐志伟为代表的中国学者团在会上提出「人机物三元计算系统」的思想,其中包含后来在寒武纪公司落地的「可分布处理器」思想,受到了许多美国学者的肯定与赞赏。
图注:基于人机物三元系统的基础设施建设构想
在跟随中国计算发展的40年里,黄铠的「中国心」愈加强烈。尤其在习近平提出「中国梦」后,后面的这三个字也成为了黄铠在指导学生中的口头禅。
在导师的熏陶下,徐志伟的人机物三元计算系统不断发展。他与李国杰、孙凝晖共同提出「高通量低熵算力网」(即「信息高铁」)的设想,希望构建新的信息基础设施,为中国信息技术的未来发展继续扮演引领角色。

3


「黄门子弟」辈出

据统计,执教近五十年来,黄铠的学术谱系达到了十代学者,可谓人才辈出,桃李满天下。
1986年,黄铠因在计算机体系结构、数字运算与并行处理上取得卓越贡献,入选IEEE Fellow,如今更是IEEE Life Fellow。
他所培养的学生中,Ahmed Louri、D.K.Panda、Joydeep Ghosh与倪明选等人也入选了IEEE Fellow。还有知名女科学家徐健,也是黄铠教授在南加州大学所培养出来的计算机科学博士生,被选为 IBM Fellow(IBM最高学术荣誉),登上「国际科技女性名人堂」(the Hall of Fame for Woman in Technology International),被美国总统接见。
在并行处理领域,有一段佳话:黄铠在2005年获得CCF海外杰出贡献奖,之后,倪明选与倪明选的学生孙贤和又分别在2009年与2018年获得该奖项,一门三杰,在计算机界传为美谈。
时任香港科技大学(广州)(筹)创校校长的倪明选是黄铠的第一个博士生,黄铠在1993年出版的《Advanced Computer Architecture》中所提到的「孙倪定理」,其中的「倪」就是指「倪明选」。
倪明选从1978年开始在普渡大学读博,主要研究并行处理。当时,普渡大学也还没有能力造一台并行计算机,于是他们就从理论方面开始研发,此后就一直沿着这个方向发力。
图注:倪明选
1994年,倪明选因并行和分布式系统领域的贡献被评选为IEEE Fellow,其论文曾被评选为最近25年计算机体系结构领域最有影响力的41篇论文之一。
2018年,黄铠教授从南加州大学辞职,回到香港中文大学(深圳)担任校长讲席教授,同时担任中科院云计算中心首席科学家。
虽然教龄不断增长,但黄铠教授的研究热情丝毫未减,近年来更是与时俱进,从计算机体系结构拓展到人工智能、5G、云计算与物联网等方向,成为了从并行计算到智能计算的历史见证者。

黄铠教授在GAIR 2021上分享他在超算系统与人工智能计算的思考方向:

  • 基于5G、物联网、云计算、大数据和人工智能建设数字孪生的智慧城市。
  • 实现从数字化到智能化.深圳AIRS 云医疗平台与生态系统的开发将引领这方面的发展。
  • 基于天空地一体化对地观测和北斗导航的时空大数据、无人机、机器人可以为智慧中国做出贡献。
  • 国家新基建以信息网络为基础,提供数字转型、智能升级、融合创新等服务的基础设施体系。
这一点,也可以从黄铠的师承关系中求证。
到了黄门第三代,即黄铠的「徒孙」,则开始基于系统结构的新方向探索。比如,倪明选在密歇根州立大学任教时指导的博士生、时任清华大学全球创新学院院长的刘云浩便专攻物联网。刘云浩是中国最早定义「物联网」的学者之一,同时也在这一领域斩获不少荣誉,并当选IEEE/ACM双料Fellow,也是目前唯一一位获得ACM主席奖的中国学者。
图注:刘云浩
刘云浩回忆,博士临近尾声时,他曾犹豫毕业设计的研究课题内容。在一次学术会议上,受到师爷黄铠在P2P上的研究启发,最终选择了P2P方向。
刘云浩的学生、时任清华大学软件学院副教授的杨铮也是物联网与无线感知方向的新星。杨铮今年入选2022年IEEE Fellow,是入选中国学者中最年轻的一位。「黄门」几代学生在系统结构方向师承不断,先后入选IEEE Fellow。
图注:杨铮
黄铠与我们坦言,事实上,他所培养的博士生在学术界或业界带领的许多「徒孙」或「徒徒孙」都是他素未谋面的。尽管如此,黄铠在学术上的研究工作仍不断影响着一代又一代黄门子弟及黄门以外的其他学生。时任澳门大学科技学院院长的须成忠也是在黄铠教授的推荐下当选IEEE Fellow。
时任华中科技大学教授的金海也是一名IEEE Fellow,他称自己是黄铠教授的「旁系亲属」,因为他没有在黄铠教授的门下读博,而是从1998年至2000年期间在南加州大学跟随黄铠做博士后研究。
图注:金海
金海回忆,在去黄铠门下做博士后前,他在并行系统一块的基础比较弱。到南加州的第一年,黄铠交给他的第一个任务就是将他与徐志伟合著的《Scalable Parallel Computing》一书里的所有习题做一遍,并且按照正规的解题答案出一本书:
「所以1998年,我就花了一整年的时间学习这本书,然后每天下午去黄教授的办公室做汇报,讲述这道题做得怎么样。如果做得不对,就重新检查一遍。可以说,黄教授重塑了一个金海,不然我不可能有这么深的系统功底。」
金海还特地谈到,当时黄铠教给他一个提高英文写作的方法:「不需要背托福与雅思,你就看两本英文原著,而且最好时跟你的领域相关的技术书,这样你会知道如何以朴素的语言写出优美的技术论文。」这对金海的影响很大。
金海眼里的「黄教授」是一个具有「严谨的学术态度、旺盛的科研热情、浓烈的家国情怀」的学者。博士后结束后,原先金海也可以留在美国工作。但当国内高校邀请金海回国任教时,黄铠一听,支持金海回国,对他说:「你的事业应该在国内。」于是,2000年,金海选择回国。
后来,金海成为推动中国并行处理发展的重要学者之一,作为973计划「计算系统虚拟化基础理论与方法研究」首席科学家。
今年,金海所主持的云计算项目(「面向多租户资源竞争的云计算基础理论与核心方法」)也获得了2020年度国家自然科学奖二等奖。

4


宝刀未老

老骥伏枥,志在千里。在前方阵线攻坚四十多年的黄教授,如今在科研与教学上躬身亲为。
2019年,在香港中文大学(深圳)的入学典礼上,黄铠作为校方代表发言,谈到自己对教学的理想与追求:
「我们不希望学生在这里迷迷糊糊地过日子。我们是希望学生们将来能成为社会的栋梁。」
他感叹:「1974年他首次到北京时,中国还处于文化大革命的白热化时期,计算机科技研究大大落后于世界强国,如今,随着一代代中国学子的成长,四十年过去,中国已经站起来了。」
黄铠曾道,只要自己的身体还行,他就希望多培养人才,为中国的科研事业做贡献。在黄铠教授的感染下,他的学生如今也多在学术界或工业界成为一方掌舵人,同时继续培养更多的优秀人才,传承知识,推陈出新。
学者创新,引领科研进步,而后人才辈出,如此循环向上,终成大梁。致敬黄铠!
参考链接:
1.https://myweb.cuhk.edu.cn/hwangkai
2.https://www.tsinghua.org.cn/upload/file/1467976147528.pdf

END


推荐阅读

滴滴失血的140天:高德「摘掉镣铐」,美团「心有旁骛」


互联网巨头的「云」动荡


逃离 AI 赛道的投资人:做局失利、破局无力

道的投资人:做局失利、破局无力






: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存