喜报|我院博士毕业生黄殷雅荣获深圳人工智能优秀博士学位论文奖
近日,深圳市人工智能学会(Shenzhen Association for Artificial Intelligence, SAAI)发布了2023年度第三届“深圳人工智能奖”奖励公告,我院梁小丹副教授指导的2023届博士生毕业生黄殷雅荣获深圳人工智能优秀博士学位论文奖。
✦
✧
奖项简介
✦
深圳人工智能奖由深圳市人工智能学会设立,旨在激励并调动人工智能专业工作者的积极性,持续推进人工智能前沿基础理论和技术研究,促进深圳市人工智能科学与技术的创新和进步。在本届深圳人工智能奖中,黄殷雅博士荣获“优秀博士学位论文奖”。
✦
✧
经验分享
✦
为提高同学们学习热情,学习科研方法与经验,智能工程学院学生会校友组对黄殷雅博士进行了采访,邀请学姐为同学们分享获奖感受、科研经验、未来规划以及对学弟学妹们的期待。
人物介绍
黄殷雅,智能工程学院 2023 届博士毕业生,中山大学 2023 届优秀毕业生,师从梁小丹副教授。博士毕业后在香港城市大学电脑科学系从事博士后研究工作。目前主要研究方向为大型语言模型系统二思维模式 (System 2 Thinking) 的能力评估和改进,如数学推理、逻辑推理、常识推理等及其在实践领域的应用。在国际顶级期刊/会议 TPAMI、ICLR、AAAI、EMNLP 等发表论文十余篇。担任 ICLR、NeurIPS、ACL、EMNLP、ACM MM、TNNLS 等多个国际顶级期刊/会议的审稿人。担任 ICML 2024 AI for Math 研讨会及挑战赛的组织者。
获奖介绍
题目:《基于结构化建模的可解释自然语言推理》
指导教师:梁小丹 副教授
论文内容简介:近年来,随着大型语言模型等技术的发展,现有模型解决复杂推理问题的能力有了显著地提升。复杂推理问题的求解过程往往是逻辑严密、环环相扣的多步骤推理,然而,现有模型普遍存在中间步骤出错、推理关系失准、论证前后矛盾等问题,导致可解释性较差,也妨碍了进一步的性能提升。本文以可解释自然语言推理的结构化建模为主线,系统性地开展了一系列关键性问题的研究,取得了如下创新性成果:
1. 围绕着可解释推理过程的建模,针对推理证据的识别,提出了一种筛选噪声证据的递归擦除记忆网络;针对推理路径的学习,提出了一种基于显式推理路径约束的表征学习方法;针对复杂推理结构学习的泛化性问题,提出了一种基于元路径的推理关系选择机制和可学习的推理关系演化机制。
2. 围绕着可解释推理的评价方法,针对中间推理步骤的评价,提出了一个多层级、多标签的推理解释框架和一个对应的模型评价方法;针对推理过程的自我反思,提出了一个具有挑战性的生成式反事实改写任务;针对语言模型的推理过程和答案生成,提出了一种可分解的大型语言模型自评估指标。
3. 围绕着交互式的复杂推理问题求解,结合可解释推理建模和可解释推理评价的技术积累,针对数学定理证明和应用题求解,提出了一个结合语言模型和交互式定理证明器的统一数据合成和数学问题求解框架。
采访环节
1.师姐在科研经历中有遇到过非常困难的时候吗?师姐是如何克服这些困难的?
科研本身一定是常常伴随着困难和挑战的,因为你需要解决新的问题,创造新的想法,实现新的技术等等。在这个过程中,去探索其他人没有走过的路,难免会经历实验的失败、研究成果没有得到同行审稿人的认可等等。但是当你最终做出来了,你会发现一切都很值得。我的第一个研究成果是直到博士三年级上学期才发表的。在此之前的两年时间里,我一直在学习面对这些科研带给我的挫折,学习去调整心态然后从失败中总结出经验教训、调整前进方向。
第一个重要的经验是,做好科研想法的记录和实验记录。在做科研的过程中,我逐渐养成了用 PowerPoint 演示文稿记录课题的研究问题、每天读到的相关的新文章、自己的新想法、每天的实验结果、新的实验设计思路等等的习惯。这样一来,当课题研究遇到问题需要调整的时候,可以非常清楚地进行回溯,并且在论文写作的阶段也能很清楚地把握整体的论述和每个技术细节的介绍。
第二个经验是,多与优秀的研究者合作,因为这能让你快速成长。我很幸运能够得到我的博导梁小丹老师的指导,能够常常和她讨论课题,也能够常常向实验室里的师兄师姐和师弟师妹学习,一起有很多的交流、讨论,共同成长。此外,也很感谢梁老师鼓励我去寻求一些学校之外的合作机会,比如我在博士三年级和四年级的时候,有机会去到腾讯人工智能实验室、西雅图实验室,向很多杰出的一线研究科学家学习,博士毕业前也有机会参与到华为诺亚方舟实验室的研究课题中。我的合作者们丰富的科研经验,以及在工业实践场景下的问题提取和求解思路,都开阔了我的思路和眼界,给我的研究提供了很多启发。
第三个经验是,持续学习、保持探索、保持好奇心。博士求学期间对论文成果的焦虑在所难免。但是,可以尽量地尝试将对结果的注意力分一些到过程上面,先思考清楚你的这篇研究工作本身的研究问题描述是否清晰了、问题求解的方法是否站住脚了、实验验证是否充分了。当你对你的研究课题有足够的好奇心,在探索的过程中你会非常想要去找到一个很棒的求解方案,会想尽各种方案去求证你的方案好在哪里,还有哪些不足。当这样的探索和尝试越来越多、越来越熟练的时候,出成果其实就是自然而然的事情了。
此外还有一些习惯,也帮助了我去逐渐克服科研的困难。比如,劳逸结合非常重要,要学会刻意休息。又比如,要有信心,加上一些意志力,不轻易放弃,因为困难终归是暂时的,坚持到底就会迎来胜利。
毕业典礼上高松校长为黄殷雅博士颁发学位证书
2.在师姐的论文撰写过程中,梁老师给予了您哪些方面的指导和帮助?这些帮助对您的学术成长有何重要意义?
博士期间能有梁老师作为我的博士指导老师我觉得非常幸运。非常感激梁老师在科研上的引导和帮助。梁老师的指导总是细致入微,切中要害。博士前期有很长一段时间,我的研究并不顺利,因为不掌握研究思路和方法,实验总是失败,论文投稿也总是被拒。梁老师从研究课题的选题、研究方法的思考,到论文写作、回复审稿人意见,都给了我很多具体有效的建议;在实验失败或者投稿被拒的时候,梁老师也总是很及时地帮助我调整方向,走出困局。博士中后期开始有一些科研经验和学术成果的积累了,我也还是从梁老师的很多前瞻性和建设性的意见中获益匪浅。在写作博士学位论文的时候,梁老师也指导了我如何将博士期间的研究工作进行系统性地梳理和论述,在这个过程中,我也对自己博士期间的一系列研究有了更加深入的理解和整合,也启发了我对未来研究工作的思考。在申请深圳人工智能优秀博士学位论文奖的时候,梁老师也给了我很多宝贵建议和帮助。
黄殷雅博士(图右)与导师梁小丹副教授合影
3.师姐对未来有怎样的发展规划?
我目前的规划还是希望继续深耕和扩展现在的研究,继续学习和积累经验,产出更多有价值和有影响力的学术研究成果。同时也希望有更多的机会和年轻的研究生同学、本科生同学们一起合作,学习如何更好地给同学们提供一些科研上的经验和帮助。
4.师姐对学弟学妹们有什么祝福和期待吗?
我们智能工程学院的师弟师妹们都是非常优秀和努力的。希望大家都能尽早地明确自己将来的目标和真正想做的事情,并且在现阶段里好好努力,打好基础。希望师弟师妹们无论是在课程学习还是在科研上面,都常常保持探索和好奇心,不害怕困难,学会在挫折中积累经验和成长。
同时也多多注意身体健康,学会劳逸结合。尤其是在博士求学阶段,经历焦虑、沮丧、自我怀疑这些情绪是非常正常的事情,不用过多自责。培养一些科研之外的兴趣爱好,花一点点时间和朋友相处。当你充满电回到科研中的时候,你会发现更加思路清晰、事半功倍。
总之,祝愿师弟师妹们不管将来是想要在学术领域深耕,还是在企业一线发光发热,或是去实现其他的精彩目标,都能发挥价值,得偿所愿!
✦
•
✦
✦
✧
结语
✦
黄殷雅博士荣获“深圳人工智能优秀博士学位论文奖”,离不开其卓越的专业领域知识积累和对科研的执着追求,并在此基础上充分发挥个人优势,迎难而上,攻坚克难,充分展现了中大学子的风采。也希望同学们明确方向目标,保持探索的状态,打好基础;不畏惧困难,在挫折、克服困难的过程中积累经验,自我成长。
让我们以榜样为目标,以更饱满的热情、更充足的信心,克服学习、成长中的难关,乘风破浪,踏浪前行!
供稿 | 贾肇欣
编辑 | 李子航
初审 | 张功宝
审核 | 黄达峰
审核发布 | 吴晓枫