美国三院院士图灵奖得主Manuel Blum: 如何为机器赋予意识?

海归学者发起的公益学术平台

分享信息，整合资源

交流学术，偶尔风月

编者按：Manuel Blum, 1995年，因计算复杂性理论及其在密码系统和程序检验中的应用而获图灵奖。美国国家科学院院士，美国国家工程院院士，美国艺术与科学学院院士。现任美国卡内基梅隆大学计算机科学学院教授。2019年5月16日，Manuel Blum在第三届世界智能大会上，以“迈向有意识的人工智能，受神经科学启发的计算机体系结构”为题展开演讲。知社现对演讲全文整理编发。

曼纽尔·布卢姆（右一）

Manuel Blum：朝着有意识的人工智能发展，这是电脑的架构，是由一个神经科学家所开发的。这是一项联合研究，我们就这个理论也发布了一篇论文。我们所讲的认知神经科学，要求我们去理解大脑的运作。1980年，Bernard Baars提出这样的一个理论。我们去理解所开发的项目，也就是全球空间模型，这个模型可以帮助我们更好地理解什么是意识。而且有一个正式的计算机架构，因为这个模型的启发而得以开发出来。

这个模型是由认知神经科学家所提出来。基于这个模型可以开发出更为灵活高效的机器，这也是未来机器发展的走向。

我在这里探讨的是意识。为什么要讲意识？这个架构和意识又有什么关系呢？我们认为意识能够让人有能力和灵活性。同样基于意识的架构，能够赋予计算机和机器人以非常强大的能力和灵活性。这里有很多的学生，我希望你们未来能够打造出有意识的电脑。

首先，什么是意识？人的意识或者人的感知能力，就是我们所注意到的任何事情。无论是处于清醒状态还是睡眠状态，当然如果你睡觉的时候没有做梦，那是没有意识的。但是只要你能够看到、听到、感受到、闻到、品尝到，这都是意识。你的感受、你的喜悦、你的悲伤、你的恐惧，这都是意识。我们内心的自我独白也是意识。我们每天无时无刻不在自己内心和自己进行对话。我们在晚上做梦的时候会梦到各种各样的图像，这些图像看上去栩栩如生，反映出我们大脑的故事。基本上我们大脑内部所感知到的东西，这也是意识。

我们举几个例子。什么是有意识的计算？什么是没有意识的计算？你们去参加过party吗？当你看到一个人，感觉非常面熟就是不知道他叫什么名字。他叫什么名字呢？想不起来。你没有在意这件事，算了吧，想不起来就想不起来吧。但是过了半小时，你突然想起来他叫什么名字了。这就是你的潜意识或者无意识地在进行计算。

如果我们生命中没有意识，那什么样的状态？就是睡觉，而且是没有梦的睡觉。有一种疾病就是人有意识，但是却看不到东西。患者的视觉功能是正常的，但是他们却看不到东西，这就是所谓的盲视。患者看到东西却没有意识，因此觉得自己是盲人。但是他们真的是盲人吗？把患者放到一个房间，这个房间有入口，里面有很多的障碍物，让他们避开这些障碍物，到房间的另一端，他们是能够做到的。他们往往做到之后也感到非常惊奇，觉得难以置信。

图片来自大科技

意识让我们的生命充满了活力。意识来自于哪里？认知神经科学家Bernard Baars指出，意识来自大脑的结构。这里讲的不是神经元，而是在神经元更基础之上，更高一个层面的架构系统设计。神经科学家于1989年提出来一个理论叫做剧场意识，这是一个聪明绝顶的理论，就是以剧场作为类比来描述“什么是意识”。意识就是在舞台上的演员凭借短期的记忆从事一系列的表演。短期记忆，一个非常非常短的记忆，它就是你的意识。舞台上的演员凭借这个短期的记忆在进行表演，有很多很多的观众坐在暗处观看。这些观众不见得有意识，那这就是长期意识，长期记忆。

基于这个理论进一步的完善，让它成为一个正式严谨的理论。我们看一看，左边是输入，我从上面开始讲吧。这个顶端有一个中央指挥员，就像是一个导演，剧场上这些演员怎么调动由他说了算。右边的这个图像是我们短期记忆，也就是短暂的存储，短暂的信息库存。基于此，我们再进一步地前进到输出这个环节。在最下面，是各种各样的长期记忆处理。

这是个聪明绝顶的模型。我多年来就想找到这样的模型，但是一直没有找到。后来幸运的是Bernard Baars发明了这个模型，但是这不是一个“放之四海皆准”的蓝图，你不能凭着这个模型就造出一个有意识的机器。作为计算机科学家，我和其他的联合研究员对这个模型的完善也做出一些贡献，就是对人工智能、智能图灵机器给出一个正式的定义，而且有相应的理论。

有意识的图灵机器不是要做无法计算的任务，这是没办法做到的。只是能够把那些可以计算的任务以更加高效的方式做出来，能够给我们提供一个打造有意识的机器的图纸，能够让我们更好地去理解意识，让我们知道为什么机器有可能是变成有意识的。

现在，这样的机器已经在建造之中，至少有一个这样的软件。有两个团队在做，其中一个团队负责人是华盛顿大学的教授，另外一个团队负责人是哈工大的王长喜教授。这是意识的架构，由简单的图灵机器所启发的。还有Bernard GWM的模型，这两者结合在一起我们就可以对有意识的图灵机器给出一个定义，界定已具备的几个特点。

这里我们看一看一个正式的、有意识的图灵机器。在这上面有一个钟表在计时间。每一个有意识的机器，它的每一步都在进行计算，而且在周遭有一个环境，包括有意识的个体本身。有意识的AI，有7个层级，像输入输出、短期记忆、长期记忆、向下的数向上的数。这里我用一个深入浅出的方式来讲，给大家看一个图表，就像Bernard的图表一样。

这是有意识的图表机器架构，看起来像Baars提出的模型，短期记忆是黄色的部分，这是我们感知到的有意识的部分。中央指挥官在最上面这个导演我们是没有的，在我们的机器中取消了这个东西，直接输入，从这条直线没有直接输入到短期记忆，在这个模型中短期记忆并没有直接的输出。但是我们有外界的输入进入下面长期记忆，长期记忆也在运作。长期记忆处理发出信号产生产出。长期记忆的处理经历了某种类型的竞争，来决定到底哪些东西是可以进入到短期记忆。一旦进入短期记忆，就要进行广播，向所有的长期记忆处理器进行广播。

我们提出一个观点就是，我们所开发出的这种意识，短期记忆中的东西都进行广播，向所有的长期记忆处理器进行广播，让长期记忆知道你对什么东西是有意识的。

这就是竞争的进行。而这个竞争必须要简单地竞争，而且要求的速度非常快，几十亿个长期记忆进行竞争，经过竞争后只有一个长期记忆进入短期记忆，所以要非常地快。

短期记忆非常短，就是一个小块。大家知道小块是什么意思吗？经济学家经常用这个词，这个小块也就是所谓的数字或者一个词或者一个字母，或者是一个字母表比如说英文的字母表。我们对字母表其实是没有意识的，我们只知道ABCD，我们可以一直数下去，但是这个小块呢，指的是一个提示器。它能够指到你想要的东西。

比如说下面减5，如果是痛苦的话，减7，如果是高兴的话，又是另外的一个数值。那5比3要大，所以痛苦的分值要比高兴的分值要高，所以痛苦就在竞争中脱颖而出，胜出进入短期记忆。我们可以看到像恐惧是负5的得分，所以他们胜出了，在竞争中向上传负7，痛苦的分值是负7，在竞争中胜出，往上传，往短期记忆传。所以像这样的活动持续不断的，总是有些东西在竞争中胜出，而进入短期记忆。

在这个模型里面有这样一个小块，会进入短期记忆，那心理学家就说短期记忆能够容纳2个小块，但是在我们模型里面我们只设置了一个小块。

图片来自网络

我给大家展示一下，长期记忆处理器到底长什么样子。它对外界的输入进行采集，然后再经过竞争，输入到短期记忆，再形成产出，进入外界。这是一个很有意思的点，当一个婴儿出生的时候，是没有这样的连接的。当有知觉的、有意识的图灵机器刚刚创造出来的时候也是没有知觉的，就像一个刚刚生出的婴儿一样。但是随着婴儿不断的成长，也就是随着机器不断的成长，这些处理器反反复复的进行竞争，反反复复地在竞争中胜出，进入短期记忆。比如说其中一个长期记忆处理器，处理的东西胜出了，然后他会反反复复问一个问题。其他的一些处理器会试图回答这个问题，产生了想要的答案。比如说和A回答B的问题，A和B就形成链接。这样一个链接让意识的程序逐渐变成了无意识的程序，然后就中断了，基本上就意识不到它的存在了。

接下来给大家看一个例子，展示它运作的机制。这里可以看到模型，有意识的模型。比如说你摸了一个炉子，你的手指被烫了，这个输入就进入长期记忆的处理器，被标注定义为痛苦。这个痛苦传到旁边的处理器，很快就产生了输出。这个输出就是你把手很快从滚烫的炉子边挪开。与此同时，这个产出也会进入到短期记忆。因此，你只是会在你被烫的时候才感知到这个痛苦。然后进行广播，其他的一些处理器，比如控制水的处理器，这个东西太烫不能喝。

那到底什么是有意识的图灵机器？它对什么有意识？就是短期记忆有意识，它的小块能够对信息所在的地方进行定位。为什么短期记忆如此短，如此微小，这也是有答案的。

哪些东西能够进入短期记忆？长期记忆的处理器是如何产生的？什么样的长期记忆处理器才能够形成意识？这有很多很多的问题，都是需要解答的。

扩展阅读

 

本文系网易新闻·网易号“各有态度”特色内容

媒体转载联系授权请看下方