铸星闪耀 | 李翔：图神经网络的“仰望”与“落地”，诠释“1+1＞2”的合作意义

编者按：微软亚洲研究院“铸星计划”旨在发掘和助力新一代青年学者，使其成为科研创新能力突出、走在世界科技前沿的学术带头人。无论是与领域内顶尖研究员合作的机会，还是最新、最丰富的数据集和强大的支持资源，抑或是产业界独有的实际应用场景，都吸引着青年才俊们来到微软亚洲研究院探索领域内前沿新知。

年轻、开拓、探索，是铸星计划的关键词；合作、创新、成就，是每个学术新星发光闪耀的必经之途。通过“铸星计划”，来自华东师范大学的李翔老师在微软亚洲研究院（上海）完成了一段成果丰硕的“铸星”之旅。

2021 年“铸星计划”访问学者、来自华东师范大学的李翔老师与微软亚洲研究院的故事要从六年前说起。早在香港大学读博期间，李翔就想到微软亚洲研究院实习，“至少有过两次计划，但却因时间、地理等因素未能成行。”李翔说。

六年前的遗憾通过“铸星计划”得以弥补——去年 12 月，李翔开始了在微软亚洲研究院（上海）的铸星访问，他也是微软亚洲研究院（上海）自成立以来的第一位“铸星计划”访问学者。

李翔在图学习理论方面的深厚积累，与微软亚洲研究院（上海）对图神经网络在真实场景中应用的经验充分互补。在三个月的访问时间内，李翔与“星搭档”微软亚洲研究院（上海）高级研究经理李东胜合作产出了丰硕的科研成果：他们合作完成的论文已被机器学习领域的国际顶级会议 ICML 接收，并有另一项工作正在投稿中。

青年学者与微软亚洲研究院如何实现“1+1＞2”的合作效果？在三个月的访问中如何产出有价值的研究成果？一起来看看李翔老师的“铸星”故事吧！

李翔

合作互补：“1+1＞2”的铸星之旅

谈及缘何申请“铸星计划”，李翔回忆，他从师妹微软亚洲研究院（上海）主管研究员单才华那里了解到，她所在的微软亚洲研究院（上海）正想针对图神经网络相关方向进行深入研究。李翔与李东胜此前也曾有学术交流，于是便很自然地投出申请。

“我和东胜、才华都是做图的，很自然就会想到图神经网络有哪些问题可以去研究，比如可解释性，以及在异质的图上去做一些研究，这也是我们后来入手的两个方向。”基于共同的研究兴趣，李翔和合作者很快找到了共同探索的方向。

三个月的访问就产出一篇顶会论文，这得益于李翔与微软亚洲研究院（上海）“1+1＞2”的合作互补。

“李翔老师在这里参与的两个课题，都体现出了微软亚洲研究院和青年访问学者的专长之间的互补。”李东胜说，李翔在图学习的理论方面有着非常深厚的积累，而微软亚洲研究院对图神经网络在真实场景中的应用有更多的经验，“因此，两个研究工作的选题都具有理论联系实际的特点，结合了李翔老师的专长和我们的优势，这样的结合对双方来说都是最好的选择。”

在研究过程中，无论是将传统模型的时间复杂度从 n 的三次方降为线性，还是将静态的图扩展到动态的图，所有的成果都跟集体的合作与沟通密不可分。“我们每周都会一起开会谈论，一起‘争吵’一下。”李翔解释道，这种“争吵”不是针对人的，而是一起探讨朝着哪个方向、使用哪个方法推进研究更好。

和“星搭档”李东胜的科研合作是李翔“铸星”之旅的一大核心。“他是一位非常绅士、儒雅温和且科研能力强的研究员。”李翔表示，他们的讨论经常针对难以解决的具体问题展开，东胜具有深厚的经验与知识储备，许多细节问题都能在讨论中一一解决。

在李东胜看来，李翔科研基础扎实、思想活跃且创新能力强，他在研究初期就敏锐地发现了谱聚类、异构网络与图神经网络共通之处。“不仅如此，李翔老师善于沟通，我们的合作毫无保留、亲密无间。”李东胜表示，除了自己的项目外，李翔对其他领域的研究项目也提出了很多宝贵的意见，因此组里的同事也从李翔老师的访问中获益良多——这是一次“1+1＞2”的铸星之旅。

李翔（右上）与“星搭档”李东胜（左）、

“铸星计划”负责人石贝贝（右下）线上合影

在单才华看来，李翔老师是一位对待学术特别“较真”、没有短板的学术研究者。令单才华印象深刻的是：“即使是在深夜或者周末和李翔老师讨论学术问题，他也能保持很好的状态，很积极地讨论问题。”不仅仅局限于合作的项目，二人的日常讨论还包括图神经网络的各种发展方向和新近有意思的论文，“沟通与合作帮助我们加深对这个领域的理解，碰撞出新的 idea。”

除此之外，李翔还在访问期间感受到了思维的激荡。他会参加每周一微软亚洲研究院（上海）的组会，“我会听其他研究员在从事一些什么项目，聊聊他们最近在做什么。”李翔认为，和更多的研究员交流是十分必要的，积极沟通可以实现学科的交叉互补，借此机会激发更多科研灵感。

伸手摘星：图神经网络的“仰望”与“落地”

图神经网络是目前较为火热的研究领域，现有研究异质性图神经网络的方法，常利用多跳邻居扩展节点的邻域，以包含更多同质节点。然而，为不同的节点设定个性化的邻域大小是一个重大的挑战，在信息聚合时，排除在邻域之外的其他同质节点也常被忽略。

李翔在访问期间与李东胜、单才华、新加坡南洋理工大学副教授骆思强等人合作完成的工作即是为了解决上述问题，他们一同提出了 GloGNN 和 GloGNN++ 两个模型，并通过广泛的实验证明了这两个模型具有较好的性能和较高的效率，大大加速异质性网络的训练，同时并不损失任何训练精度。今年二月，围绕这项工作完成的论文《Finding Global Homophily in Graph Neural Networks When Meeting Heterophily》投稿至 ICML 会议，并且已被顺利接收。

李翔在“铸星报告”上对研究工作的展示

“从学术的角度来说，我们提出的模型能用于下游的不同任务当中，包括分类、聚类等任务。从实际运用来谈，我们的模型具有线性的时间复杂度，计算效率高、时间复杂度低，可以用于大规模的数据集上，实现直接‘落地’。”李翔表示，这项研究工作的价值不仅仅在于中一篇顶会论文，更重要的是它把针对图中所有节点的卷积操作时间复杂度直接降到了线性的时间复杂度。微软亚洲研究院主管研究员单才华介绍道，这是一个典型的将传统图理论运用于图神经网络的研究，同时它也结合了两者的优势实现了技术的跨越。

在访问期间，李翔也参与了另一项由单才华主导的工作，针对图神经网络的可解释性问题展开研究。“深度学习、神经网络相关的一些东西可能更多是‘黑盒’的，它们的可解释性相对来说比较差一些，所以一个很重要的研究点是如何使得神经网络成为‘白盒’。”李翔介绍道，这项工作旨在提高序列的图数据的可解释性。李翔的“星搭档”、微软亚洲研究院高级研究员李东胜表示：“李翔老师研究能力非常强，在这个工作中贡献了很多想法，也参与了论文的撰写。”

星河灿烂：未来合作可期

除了项目上的合作，李翔还促进了微软亚洲研究院与华东师范大学的联系。2022 年 1 月 6 日，由微软亚洲研究院主办的人工智能与系统专题讨论-软硬件优化专场在微软亚洲研究院 （上海）成功举办。得知活动缺少一位从事底层硬件研究的讲者，李翔便联系了自己的同事、华东师范大学副教授徐辰老师，邀请他为专题讨论作了“分布式迭代矩阵计算的混合评估”的主题报告。

“这样一次合作交流有多方面的积极意义。”李翔表示，这不仅促进了学界与业界、高校与企业的联系，对于自己和同事来说，也是一个和优秀科研机构深入交流、长远合作的契机，“我也希望介绍更多优秀的学者给微软亚洲研究院。”

而李翔“铸星”访问的顺利成行，也离不开华东师范大学副校长周傲英老师的支持。“周傲英老师对年轻老师是非常关心的，他常说：一切有益于我进步、做科研的，他都全力支持。”正因如此，当李翔提出要申请“铸星计划”后，周傲英老师十分支持，并为李翔撰写了推荐信。

2021 年“铸星论坛”上，李翔作个人研究计划报告

“李翔老师所在的华东师范大学具有非常优秀的教育相关的研究，我们非常期待能够在AI+教育上碰撞出一些火花。”李东胜介绍道，目前微软亚洲研究院（上海）对 Responsible AI 非常感兴趣，因此也希望今后跟李翔老师在图神经网络与 Responsible AI 的结合方面开展进一步的合作研究。

对于李翔而言，虽然“铸星”访问已结束，但未来的交流与合作不会停止。“铸星计划是一个对青年学者非常友好的机制，微软亚洲研究院是一个可以安安静静做科研的地方。”李翔期待能在这里和优秀的研究员一起，朝着共同的目标，做出更多有价值、有意义的研究工作。他与微软亚洲研究院的故事，始于“铸星计划”，也将延续至更远的未来。

微软亚洲研究院铸星计划 2022 

火热报名中！

扫描二维码或点击阅读原文了解项目详情