清华、北大教授同台激辩：脑科学是否真的能启发AI？
作者 | 高卫华
出品 | AI科技大本营
头图 | CSDN下载自视觉中国
广义的智能科学是研究智能背后的科学，需要不断扩展科学研究范围，没有最后的疆域。但脑在几千年内的进化中都相对静止，因此脑科学是“自然科学最后的疆域”。脑科学是一个重要的研究方向，但不是做人工智能的前提，它与人工智能应该是一个相辅相成的过程。
目前，认知神经科学取得极大进步，已经有了整体发展路径，对现在AI的端对端学习与强化学习有诸多启发。那么认知科学的进展对下一代AI是否有帮助？脑科学是否真的能启发人工智能？以及它和各个方向应该如何密切结合？
近日，为促进学科交叉和科学家之间合作，探索学科前沿，智源研究院召开了“2020智源论坛”及两周年庆典晚宴系列活动。近百位人工智能学者汇聚一堂，围绕“目标导向与自由探索相结合的科研体制下，凝练方向内和跨方向的重大目标”，针对人工智能的认知神经基础等重大研究方向，展开激烈探讨。
从左到右依次：刘嘉、吴思、陈良怡、孙茂松、李国齐、王立威、张志华
主持人：
刘嘉（智源首席科学家，清华大学教授）
嘉宾：
吴思（智源研究员，北京大学教授）
陈良怡（智源研究员，北京大学教授）
孙茂松（智源首席科学家，清华大学教授）
王立威（智源研究员，北京大学教授）
王建勇（智源研究员，清华大学教授）
张志华（智源研究员，北京大学教授）
李国齐（智源研究员，清华大学教授）
以下为对话内容实录，有删减：
能否构造不同于人脑的认知智能系统？
刘嘉：从进化角度来讲，进化并不是线性的，而是一棵进化树。不同的生物有不同的神经元，但所有生物对世界都有非常好的适应。人有860亿个神经元，是线虫的九个稳定级那么多，但人和线虫对世界的适应都是完美的，不仅可以生存，还可以移动、有感知、获得食物、有情感、有动机、有简单的判断。因此，无论是低等动物还是高等动物，无论神经元多少，都能够做到通用智能。
据ML上的一篇文章，从线虫上受到启发，提出一种称为NCP的神经环路法则，通过75000个参数，只采用19个神经形态的神经元，就可以完成自动驾驶的过程。所以并不是参数越多越好，神经网络越深越好，通过很简单的结构也可以实现很复杂的功能。规模很重要，但是并不是唯一的决定因素。
那么，是否能够构造出在行为或表现层面上和人类是完全一样，但结构和功能组织原则完全不一样的人工智能系统呢？
吴思：数学证明充分性很容易，证明必要性太难了。但是泛泛的来说，大脑是实现生物智能的样板。认知有个“格拉斯法则 ”，看世界时画两条线，两条线在相交；但从数学的角度来说，可以认为两个东西touch在一点。但是为什么现在是这两个相交？他们在认知上总结了另一个法则，在外界的时候会有些先验知识来帮助我们从数学上降低维数，也就是说，人脑有先验知识帮助我们只认识我们想认识的世界，而不是克服这个NP问题。
陈良怡：我觉得生物系统不一定完全copy，线虫有309个神经元，1985年时人类便获得了其全部的连接图谱。在2008年做出了更细致的工作，去看不同虫子的“神经突出连接”是不是一样，结果发现100多条虫子中每条虫子的物理连接都是不一样的。如果完全按照生物系统物理上的神经结构去做智能，真的能够得到普适性规律吗？
另外，计算机是决定性的。但是生物系统是有进化的，每个人都不一定是最优的，随着环境改变，生物系统也需要发生变化。所以如何在数学上实现，我们不知道。
孙茂松：如果对事物的本质有理解，它的实现路径可以不一，关键是能否把握它的本质。知己知彼百战不殆，现在我们对大脑基本不是太清楚，所以当务之急还是搞清楚大脑。目前人脑是一个高度的智能体，要想研究智能，需要去搞明白它。能不能走通不好说，但从逻辑上一定得这么做，只有这样才有可能去探究它的本质。
当然，从技术角度来讲，人脑系统和机器系统的各种条件不一样，输入数据的量和质也不一样，所以也不排除有另外一条路径：一定程度上模拟大脑的功能去试图逼近，但是要真正达到那个境界，还要理解脑。
李国齐：人工智能有很多途径：主流的是由数理逻辑和专家系统去做符号主义；另外一个是连接主义，构造一个大的神经网络；还有行为主义，主要是从控制论去做。人脑是一个近乎完美的通用智能系统，所以当连接主义出现问题和瓶颈的时候，人脑的存在可提供一个最终的方向和信念。
王立威：举例来说，计算机里的任何一个问题，据我所知，并没有最优算法，都是多个最优算法同时存在。从这个角度来讲，实现人工智能应该也有多条路径。
另外，我非常同意刚才孙茂松老师讲的，如果我们想从人类智能和生物智能借鉴一些东西帮助人工智能发展，最核心的是理解人脑，需要先去深入挖掘它。
张志华：现在的人工智能是通过计算机、机器实现的，其根本的是要适应于机器而不是人脑。另外，我认为对脑科学或者人工智能，最重要的应该是存在性的东西，智能是存在的，但是脑科学目前并没有提供一种途径实现人工智能。
下一代AI最需要去关注什么？
刘嘉：借鉴深度神经网络或者大脑功能时，从我的角度更关心生物神经网络和神经网络的差异。当AI不需要学习和借鉴大脑所有结构或所有功能时，哪些人类的或者生物体的认知功能是下一代AI最需要去关注的或者借鉴的？另外，当下生物智能和人工智能有哪些差异？
吴思：因为学科不一样，很多不做神经科学的会想到大脑和AI在结构上的不同。举个例子，结构不同实际是编码集不同，神经系统做encoding 时不仅要识别物体，还要有confidence，confidence是来自于先验知识，通过神经元反应的随机性把confidence编码在一起，而机器学习中的confidence是通过大数据做出来的。那么，神经系统发生的机制和机器学习是否一样？这是值得探讨的一个问题。
真正和人脑融合时要注意到任务的不同。人脑是个体存在，首先要适应环境，且它是通用智能，可以干任何事情；其次由于资源的有限和任务的不同，会趋向于不同的结果。现在人工智能不应该满足于做人脸识别，未来需要一个服务机器人，可以像人一样干任何事情。
陈良怡：我不太同意“巨型的神经活动向量”，我个人观点认为，Biological是一个能量有限的系统，在有限资源下重要的是学习、记忆以及遗忘。那么，Biological的哪些是应该借鉴的？哪些是可以不借鉴的？比如，我们也许能够模拟出人脑的变量，但到这个程度时，它是否有这样的Diversity？我表示比较怀疑。
孙茂松：知识是人区别于动物最本质的东西，那么如何表示呢？脑科学在这方面没有提供什么东西，这是最大的问题。
另外，脑神经是比较简单的物理系统，把它变成向量，逻辑上是通的，但是向量比较精确，脑能否处理这么复杂的事？向量逻辑推理完全靠计算去做吗？现在的知识图谱是三元组，三元组做推理没问题，但脑子里是不是三元组？
语言学大师乔姆斯基有“刺激贫乏理论”，认为人脑的语言机制是天生的，后天往里灌东西。所以，现在的压力在脑科学。
李国齐：首先大脑的神经元是多样性的，但目前神经网络里的神经元都长一个样子，目前去做这样一个网络模型很困难。其次，大脑是复杂的网络动力学模型，引入神经元里的动力学系统后，就能够做记忆和联想，如何把这种类似于神经动力学的系统反映在一个计算系统上，是一个比较关键的问题。
此外，大脑里有很多可以借鉴的东西，比如稀疏编码、注意力机制，能够把多层次多粒度的记忆和联想在计算系统里做实现。而现有计算机体系存算分离，计算系统中所有的记忆都一样。比如，神经网络存的全是权重，没有把记忆分层次粒度。因此，如何把记忆跟计算系统以及决策联系起来也是一个关键问题。
王立威：今天人工智能深度学习已经在下围棋和人脸识别上远远超过人类，那么人如何不借助计算机工具，通过学习和自我训练提升人脸识别和下围棋能力？在思考之后发现，人应该学习深度学习的Principle 。
深度学习的Principle 是什么？首先要有一个明显的task，定义一个task之后，收集很多data，然后去定义一个目标函数，使用算法去优化。反过来，如果人工智能想从人脑中借鉴，应该学什么？这可能需要结合认知科学和人工智能来进行深入研究。
AI如何与各学科融合发展？
刘嘉：论坛有来自各个学科方向的的老师，如果让您做交叉，您最希望交叉的是哪个方向？
吴思：我比较喜欢和认知科学进行交叉，认知科学会从概念上给我启示，然后再继续在神经系统上数学化。
陈良怡：因为我们做得比较实际，需要去实际测量，所以我们会希望和计算机和深度学习做交叉，来帮助我们更好的理解这些数据。
孙茂松：我对计算比较熟悉，希望能和脑科学交叉，立威说特别希望智源创造一个环境，请认知科学的学者讲10天，基本原理不用讲太细，只讲大概有多少条原理，进展到了什么方向就够了，搞清楚以后，再做交叉就能够比较深入了。
我个人有很强烈的欲望，希望搞懂脑科学、认知科学是怎么做的，这样我们才能真正有所前进。历史上曾经得益于你们，解决语言研究的苦恼问题，在我的圈子里解决不了，到你们那里找到依据解决了，将来希望你们作为老师多教教我们。
李国齐：交叉非常重要，从我个人来说，我希望更深入结合的一点是，通过神经动力学去影响计算系统的编解码。
王立威：今天人工智能最擅长的是做非常具体的问题，它最不擅长的就是做一个综合性的复杂的任务，而这是生物最擅长的。但是人太高级了，直接去做人，比如现在让一个机器人进对面的楼给我取一杯咖啡回来，根本做不了。
那么能否在非常具体的问题和高等复杂的任务之间，选择一个中间难度的任务？相信会有不是很高等的生物可以做到，如果在这个方向上有所合作，还是能够有所突破的。
张志华：做统计要用一些方法，方法要去找借鉴，比如数学要证明一个东西，但有时候完全没思路，发现可以先用计算机去模拟一下，然后再去想办法，在认知科学方面找一些方法会有非常好的帮助。
刘嘉：我最早学心理学，后来学认知神经科学，特别感触到一个问题，认知神经科学方面要研究的问题太多、特别宽泛，而且经常不清楚什么是重要问题、什么不是重要问题；和AI进行交叉后突然意识到哪些是重要问题、哪些不是重要问题。现在我特别希望和统计方面的专家做贝叶斯这方面的合作，用新的数学描述大脑的认知功能和认知过程。
无论怎样交叉，无论大家的出发点怎样，只要大家不断拓宽和打破自己的认知边界，交叉这件事肯定会取得新的成果。