李德毅院士：通用人工智能十问

数学算法俱乐部

日期：2020年04月16日

正文共：1741字1图

预计阅读时间：5分钟

来源：学术头条

共识：智能是学习的能力，以及解释、解决问题的能力；人工智能是脱离生命体的智能，是人类智能的体外延伸；通用人工智能通过不断学习，积累本领，进化成长，能够面向不同的情境，解释、解决普遍性的智力问题。

在此共识基础上，我们提出如下质疑：

质疑一

意识、情感、智慧和智能，它们是包含关系还是关联关系？是智能里面含有意识和情感，还是意识里面含有智能？是智慧里面有智能，还是智能里面有智慧？大凡意识、情感，都是内省的、自知的、排他的，怎么可以用他人的、人工的来代替呢？所以非生命体不可能有意识？

质疑二

如何理解通用智能？我们应该不应该把通用智能理解为“全知全能”或者单向超强智能？尽管今天的计算机已经可以解决很多复杂的、专门的智力问题（如围棋智能），我们仍常常觉得它们缺乏人类思维的某些本质特征。这里的差别主要不是在算法、算力、数据量方面，不是在速度和容量方面，而是在智能的一般性、通用性、普遍性、灵活性、缺省性、容错性、可习得性、不确定性、适应性、常识性、开放性、创造性、自主性等方面。遗憾的是发展 60 多年的人工智能没有能够更靠近人的原始的智能。

质疑三

目前所有的人工智能的成就都是在计算机上表现出来，是基于冯架构的计算机智能或者计算智能，人工智能是计算机的一个应用而已。而人脑不是冯诺依曼架构的，存在不存在宏观上更类似脑的非冯诺依曼架构呢？例如，对人的智能而言，记忆力是真正的智力，超强记忆力就是超强智能，记忆比计算机重要，记忆的提取要比复杂的推理快得多，非冯架构如何在结构上体现人脑的不同记忆区和记忆力呢？如何体现环境和知识的双驱动？

质疑四

非生命体不会有七情六欲，机器人是非生命体，还会有学习的原动力吗？如果没有学习的原动力，没有接受教育的自发性，还会有学习的目标吗？目标从哪产生？机器人能否自己提出问题？

质疑五

人的注意力选择源于记忆，源于记忆的偏好依附性，偏好如何产生的？偏好依附是否只能与交互认知的频度和时间的远近相关？人的偏好依附不是这样的，人的恐惧性以及满足感会让一些发生频度很低、或者很久远的事记忆特别深刻。

质疑六

自然语言是人类思维活动的载体，如果自然语言是第一语言，数学语言是第二语言，计算机语言是第三语言，后一个比前一个常常更严格，后一个比前一个常常更狭义，根据哥德尔不完全定理，数学自身难以完全自洽。数学的形式化要借助于自然语言，计算机语言的形式化要借助于数学语言。因此，人工智能怎么可以反过来要用数学语言或者计算机语言去形式化人类的自然语言呢？

质疑七

人脑是个小宇宙，其中的智能是多情境、多公理兼容并包的，在不同情境里有不同应对，不完全收敛，不完全自恰，不整体统一，不存在非公理的统一的数学推理，当然也不必一定要脑裂。  

质疑八

一个机器或者系统是否有智能，不在于某一个时刻它能解决什么实际的智力问题，而在于它有没有学习的能力？智能，即提供的问题解决方案，是否依赖于有限的认知资源？是否需要进一步交互认知？是否可以有选项？是否可以进化和成长？这才是最重要的。 

质疑九

在一个非冯诺依曼架构的机器人脑中，组成记忆、交互和计算的基本元件最少有哪几种？各元件中的信息的产生机制与存在形式是什么样的？他们之间的信息传递机制是什么样的？

质疑十

通用智能后天的习得靠教育，智能植根于教育，文明是智能的生态。设有通用架构的机器婴儿 10 台，可视为带有基因的硬件加基础软件，让 10 位母亲分别在各自的情境去教育 10 名机器婴儿，仅仅通过语音交互，1 个月后这样的机器婴儿脑中留下的三个记忆区里都会有些什么？以后，机器婴儿的基础软件（含记忆、交互、计算软件）要不要不断扩充？硬件要不要不断扩充？机器婴儿脑有没有形成自己软件的能力？

作者简介

李德毅
中国工程院院士，CAAI Fellow，CAAI 名誉理事长

长期从事计算机工程、不确定性人工智能、大数据和智能驾驶领域研究。最早提出“控制流-数据流”图对理论，证明了关系数据库模式和谓词逻辑的对等性。提出云模型、云变换、数据场等认知形式化理论，用于解决定性概念生成、相似度计算、不确定推理、智能控制等问题，成功控制三级倒立摆各种动平衡的姿态。提出基于路权构建驾驶态势认知图，研发机器驾驶脑，领导了中国最大的智能车联合团队。

— THE END —