尤亦庄：深度学习和重整化群 | 因果涌现读书会第二期

导语

什么是重整化技术？重整化技术的发展脉络和最新进展是什么？重整化技术与当前的深度学习技术有什么关联？如何借助重整化技术来解决当前深度学习中面临的一些问题。加州大学圣地亚哥分校助理教授尤亦庄将带你共同梳理关于重整化技术的一些进展。

本次分享属于因果涌现读书会的第二期，该读书会是由北京师范大学教授、集智俱乐部创始人张江发起，将在每周六的上午9:00-11:00组织相关主题的论文研讨，希望借助因果涌现理论、机器学习重整化技术、自指动力学等近年来新兴的理论与工具解决跨尺度、跨层次的涌现是复杂系统研究的关键问题，破解复杂系统的涌现规律。欢迎对本话题感兴趣的朋友报名参加！

背景

「重整化」（renormalization）是在物理学的诸多领域行之有效的分析方法，它可以用来研究标度下物理系统性质的变化，曾经解决统计物理的临界现象和量子场论中的发散问题中起到重要的作用。重整化希望通过在不同尺度下的标度变换，找到处在临界态的物理系统在标度变换中的一些不变性。

而深度学习的方法，之所以有效，究其本质在于深度神经网络经过训练能够较稳定地提取特征、并在实践中表现出较好的泛化能力。在一个深度神经网络上，较高层的特征是低层特征的组合，而随着神经网络从低层到高层，其提取的特征也越来越抽象、越来越涉及「整体」的性质。从更深层次的角度来看，深度神经网络不是简单的神经网络的堆砌，而是能真正从数据中找到数据中的一些隐藏的对称性和约束。

这意味着深度学习提取到的特征会是那些不受噪声影响的慢变量，这与重整化的思路也是一致的，这些“慢变量”也就是我们前面提到的“适当的”自由度。深度学习与重整化方法的这种相似性目前已经吸引了许多来自不同背景的科学家们的注意，近年来也有许多工作尝试在重整化群和深度学习之间建立联系。

内容简介

加州大学圣地亚哥分校助理教授尤亦庄将带你共同梳理关于重整化技术的一些历史脉络和进展，带你一窥重整化技术的本质，本次分享主要围绕以下内容开展：

1. 重整化理论的历史、现状与未来

2. 以Ising模型为例介绍机器学习重整化

3. 重整化方案的设计原则

4. 全息重整化及应用

主讲人

尤亦庄，加利福尼亚大学圣迭戈分校助理教授。研究领域为理论凝聚态物理，强关联系统，量子拓扑物态，多体局域化与热化，纠缠，张量网络，以及全息原理与机器学习。

参考资料：

• Pankaj Mehta, David J. Schwab. An exact mapping between the Variational Renormalization Group and Deep Learning. arXiv:1410.3831, 2014
• Maciej Koch-Janusz, Zohar Ringel. Mutual information, neural networks and the renormalization group. nature physics, 2018, 14(6): 578-582
• Shuo-Hui Li, Lei Wang. Neural Network Renormalization Group. Phys. Rev. Lett, 2018, 121, 260601
• Hong-Ye Hu, Shuo-Hui Li, Lei Wang, et al. Machine learning holographic mapping by neural network renormalization group. Phys. Rev. Research, 2020, 2: 023369
• Hong-Ye Hu, Dian Wu, Yi-Zhuang You, et al. RG-Flow: A hierarchical and explainable flow model based on renormalization group and sparse prior. arXiv:2010.00029, 2020

时间：

2021年8月21日（周六）上午9:00-11:00

参与方式：

• 集智俱乐部 B 站免费直播

• 付费参加读书会可加入腾讯会议，可提问交流，加入群聊，获取回看地址，成为因果涌现社区种子用户，与150余位因果涌现社区的一线科研工作者沟通交流，共同推动因果涌现社区的发展（点击文末“阅读原文”或扫描下方二维码即可报名）。

扫码报名

因果涌现读书会招募中

跨尺度、跨层次的涌现是复杂系统研究的关键问题，生命起源和意识起源这两座仰之弥高的大山是其代表。而因果涌现理论、机器学习重整化技术、自指动力学等近年来新兴的理论与工具，有望破解复杂系统的涌现规律。由北京师范大学教授、集智俱乐部创始人张江等发起的「因果涌现」系列读书会，将组织对本话题感兴趣的朋友，深入研读相关文献，激发科研灵感。

本次读书会适合的参与对象：

1. 基于复杂系统、人工智能等方法做相关研究的科研工作者

2. 能熟练阅读英文文献，并对复杂科学充满激情，对世界的本质充满好奇的探索者

运行模式：

每周由 1-2 名读书会成员领读相关论文，进行线上闭门读书会，与会者可以广泛参与讨论（以 PPT 讲解的形式，直播间互动交流）。采用的会议软件是腾讯会议。

时间：

从2021年8月14日开始，每周六上午9:00-11:00，持续时间预计 7-8 周。

报名方式：

第一步：扫码填写报名信息

扫码报名

第二步：填写信息后，进入付款流程，提交保证金299元（符合退费条件后可退费）

第三步：添加负责人微信，拉入对应的读书会讨论群

（我们也会对每次分享进行录制，后期发布在集智学园官网上，供读书会成员回看）

本季读书会详情及退费规则请参考：因果涌现读书会启动：连接因果、涌现与自指——跨尺度动力学与因果规律的探索

推荐阅读

点击“阅读原文”，报名直播