AI+MATH结合的成果综述｜周五直播·人工智能与数学读书会

导语

本周是人工智能与数学读书会的第一次分享，将由何杨辉院士和陈小杨研究员主讲。何杨辉院士将介绍人工智能以三种方式接近数学的相关成果；陈小杨研究员将探讨符号回归、强化学习构造反例等在数学研究中的应用,讨论数学与人工智能深度融合的可能性。
为了探索数学与人工智能深度融合的可能性，集智俱乐部联合同济大学特聘研究员陈小杨、清华大学交叉信息学院助理教授袁洋、南洋理工大学副教授夏克林三位老师，共同发起“人工智能与数学”读书会，希望从 AI for Math，Math for AI 两个方面深入探讨人工智能与数学的密切联系。本读书会是“AI+Science”主题读书会的第三季。读书会自9月15日开始，每周五晚20:00-22:00，预计持续时间8～10周。欢迎感兴趣的朋友报名参与！

分享内容简介

本次分享会将介绍人工智能与数学结合的相关成果，以及探讨数学与人工智能深度融合的可能性。AI在数学研究中的应用一直是一个重要的研究方向，并取得了许多重要成果。

• 在发现数学规律方法，结合深度神经网络，强化学习和传统符号回归的方法，在从数据中发现数学公式发挥着强大的能力，此外还在建立不同数学领域间理论的联系，发现矩阵乘法新算法，自动分析并提出相关猜想等方面都取得了突破；
• 在数学推理方面，研究人员通过训练大型语言模型，如Llama2，探索了开源模型的基本原理与训练技巧，进一步提升了模型的推理能力。通过思维链的引导，大语言模型在推理能力方面取得了显著进展。
• 此外，将大模型与数学证明相结合，如LeanDojo的实践，为数学定理的自动证明提供了新的思路。这一系列研究展示了AI在数学领域的威力，表明了AI正为数学科研工作者提供前所未有的工具和方法。

伦敦数学科学研究所何杨辉院士总结了人工智能如何以三种方式接近数学：定理证明、猜想公式和语言处理。受几何和弦理论初步实验的启发，他们团队提出了一些最近的实验，关于各种标准机器学习算法如何帮助跨学科的模式检测，从代数几何到表示理论，到组合数学和数论。同时，同济大学陈小杨研究员将从符号回归、强化学习构造反例、AI辅助发现数学规律、大语言模型在数学研究中的应用相结合探讨数学与人工智能深度融合的可能性。

分享简介

本次分享会将分为两部分综述来去介绍人工智能与数学结合的相关成果，第一部分由何杨辉院士总结了人工智能如何以三种方式接近数学：定理证明、猜想公式和语言处理，同时提出他们团队最近的一些研究：关于各种标准机器学习算法如何帮助跨学科的模式检测，从代数几何到表示理论，到组合数学和数论。第二部分由陈小杨研究员将从符号回归、强化学习构造反例、AI辅助发现数学规律、大语言模型在数学研究中的应用相结合探讨数学与人工智能深度融合的可能性。

分享内容大纲

Part1:

• 定理证明

• 猜想公式

• 语言处理

• 关于各种标准机器学习算法如何帮助跨学科的模式检测

Part2:

• 符号回归

• 强化学习构造反例

• AI辅助发现数学规律

• 大语言模型在数学研究中的应用

主要涉及到的知识概念

弦理论 String Theory

标准机器学习算法 Standard Machine-Learning Algorithm

代数几何 Algebraic Geometry

表示论 Representation Theory

神经网络 Neural Network

思维链 Chain-of-Thought

强化学习 Reinforcement Learning

大语言模型 Large Language Model

深度符号回归 Deep Symbolic Regression

主讲人介绍

何杨辉，曾就读于普林斯顿大学，以最优异的成绩获得物理学学士学位、应用数学证书和工程学证书（最高荣誉，Phi-Beta-Kappa）。随后，他又以优异成绩获得剑桥大学高等数学证书（Tripos）。之后，他在麻省理工学院获得理论和数学物理学博士学位。何杨辉继续在宾夕法尼亚大学从事博士后工作，之后作为 FitzJames 数学研究员和英国 STFC 理论物理高级研究员加入牛津大学。何杨辉在2010年加入伦敦大学城市学院，担任Reader。他目前是数学教授。他同时担任中国南开大学长江讲座教授，并自 2005 年起担任牛津默顿学院的导师和讲师。在2021年，他成为伦敦数学科学研究所的院士。何杨辉教授是一位数学物理学家，研究几何学、数论和量子场论/弦论之间的接口。最近，他帮助将机器学习引入纯数学领域，利用人工智能帮助发现新模式并提出新猜想。

陈小杨，同济大学特聘研究员。2014年5月获得美国圣母大学数学博士学位，2014-2016年在澳门大学从事博士后研究，并于2016年底入职同济大学。陈小杨的主要研究方向为黎曼几何，在 Geometry and Topology, Advances in Mathematics等期刊发表了多篇研究论文。近期，陈小杨与研究团队开展了大模型在基础数学的应用研究，并计划开发机器学习算法用于发现数学规律，构造数学猜想反例等。

主要涉及到的参考文献

• Learning Algebraic Structures: Preliminary Investigations. Yang-Hui He, Minhyong Kim. arXiv (2019)

• Deep-Learning the Landscape. Yang-Hui He. arXiv (2019)

• Machine-Learning Mathematical Structures. Yang-Hui He. arXiv (2021)

• hep-th. Yang-Hui He, Vishnu Jejjala, Brent D. Nelson. arXiv (2021)

• Hugo Touvron et al. Llama 2: Open Foundation and Fine-Tuned Chat Models. arXiv:2307.09288 [cs.CL]

• Jason Wei, et al.  Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903 [cs.CL]

• Kaiyu Yang et al.  LeanDojo: Theorem Proving with Retrieval-Augmented Language Models.

     https://arxiv.org/pdf/2306.15626.pdf. 2306.15626.  [cs.LG].

• Davies. Alex, et al. “Advancing mathematics by guiding human intuition with AI. ” Nature 600 (2021): 70-74.

• Fawzi. Alhussein, et al. “Discovering faster matrix multiplication algorithms with reinforcement learning”. Nature 610 (2022): 47-53.

• Adam. Zsolt. Wagner . “Constructions in combinatorics via neural networks”.

• Gal Raayoni ,et al.  Generating conjectures on fundamental constants with the Ramanujan Machine. Nature ,  590 (2021): 67-73.

• Brenden K. Petersen, et al.  DEEP SYMBOLIC REGRESSION: RECOVERING MATHEMATICAL EXPRESSIONS FROM DATA VIA RISK-SEEKING POLICY GRADIENTS. ICLR 2021.

• Wassim Tenachi, et al. Deep symbolic regression for physics guided by units constraints: toward the automated discovery of physical laws.

本次分享与读书会主题之间的关系

 • 与读书会之间的关系：本次主讲内容重点介绍了AI+Math的背景以及已取得的理论和实践成果，揭示了AI与Math的紧密联系以及未来可能的研究发展方向。

 • 与复杂系统之间的关系：数学结构本身可以看作一个复杂系统，数学对象构成了相互关联的复杂系统。另一方面，复杂科学的研究也离不开数学工具。混沌、非线性等既是重要的数学概念，也是复杂科学的基础概念。人工智能技术的深入发展，将进一步加强数学与复杂科学的深刻联系，同时，数学与复杂科学的方法正逐步在人工智能的发展研究中发挥重要作用，并为构建神经网络与大模型的可解释性提供坚实的理论基础，通过人工智能与数学研究结合可以为复杂系统与人工智能的结合带来更多可能性。

直播信息

时间：

2023年9月15日（本周五）晚上20:00-23:00

参与方式：

扫码参与人工智能与数学读书会，加入群聊，获取系列读书会回看权限，成为AI+Science社区的种子用户，与社区的一线科研工作者与企业实践者沟通交流，共同推动AI+Science社区的发展。

人工智能与数学读书会启动

人工智能与数学读书会主要围绕AI　for　math，math　for　AI两个方面深入探讨人工智能与数学的密切联系。首先，我们将概述人工智能在数学的应用，并深入探讨大模型与数学推理，定理自动证明， AI发现数学规律，符号计算等方向的研究工作。随后，我们将转向大模型与神经网络的数学基础。最后，我们将深入探讨几何与拓扑在机器学习的应用。人工智能与数学读书会自2023年9月15日开始，每周五晚上20:00-22:00举办，持续时间预计 8 周。欢迎对本话题感兴趣的朋友报名参加！

详情请见：

点击“阅读原文”，报名读书会