制造拥有自我觉知的机器人，会让我们更理解意识？

造一个具有自我觉知的机器人，就能探究意识这个难解的谜题吗？

JOHN PAVLUS

封面：ouch

ARTIFICIAL  INTERLLIGENCE  人工智能

面对意识这个著名难题，哥伦比亚大学创意机器实验室的霍德·立普森（Hod Lipson）教授决定从最基础的方面着手：制作一个具有自我觉知的机器，以此探究人类的思考模式。

“我期待在有生之年遇见外星人，” 哥伦比亚大学创意机器实验室的机器人专家霍德·立普森教授说，“我期待遇见人类之外的某种智慧存在。”但相比坐等梦想成真，他更愿意亲手去打造，比如具有自我觉知的机器。

要想如其所愿，霍德·立普森教授需要公开地阐述“意识”（consciousness）这一尚未有定论，并且常常被同行视为研究禁忌的概念。他说：“在过去我们通常将意识视为机器人和人工智能研究中的大忌，因为我们被禁止触碰有关意识的话题，它太深奥，没人知道它的确切含义，况且我们如此谨慎严肃，不会轻易去挑战它。但在我看来，意识，同人类的起源、宇宙的起源一样，都是未解的难题。什么是感知力？什么是创造力？什么是情感？我们一边希望弄清楚意识之于人类的意义，一边也在思考如何人为地创造意识，我想现在是时候该直面这些问题了。”

拍摄于哥伦比亚大学创意机器实验室，霍德·立普森（Hod Lipson）教授正手持阿拉克那（Aracna）机器人，该机器人用于测试关于运动能力的新创想。

—

Hatnim Lee 为《Quanta》杂志创作

根据利普森的观点，感知力或自我觉知（self-awareness）的基本组成元素之一是“自我模拟”（self-simulation）：即建立自己的身体及其在物理空间中运动模式的内在表征，然后使用该模型来指导行为。早在2006年，他就开始研究人工自模拟，他设计了一个海星形状的机器人，利用演化算法（以及一些预置的物理参数）让该机器人自学如何在桌面上缓行。但2012年现代人工智能技术兴起（包括卷积神经网络和深度学习），“引领了整个研究领域的新风向”，利普森说。

在2019年初，利普森的实验室开发了一台机器人手臂，它利用深度学习，完全从零开始生成自身的内部自我模型——利普森形容这个过程“就像咿呀学语的婴儿观察着自己的手”。这个机器人的自我模型可以让它准确地执行两项不同的任务——捡起小球并把它们放进杯子里，以及用记号笔写字，机器人执行这两种任务都无需专门的训练。此外，当研究人员添加一个损坏部件，以此来模拟机器人身体受到的损伤时，机器人能够检测到这种变化，并相应地更新自我模型，同时恢复执行任务。

虽然它与能够深层思考的机器人相差甚远，但利普森认为，这仅仅是程度上的差异。“当你同别人谈及机器人的自我觉知时，人们往往会以为某一天机器人将突然觉醒，机器人会说：‘你好，为什么我在这里？’但其实自我觉知不是一个非黑即白的概念，它是从一些非常细微的事情开始的，比如‘我的手会往哪里移动？’，实质上这是相同的问题，只是时间跨度更短。”他说。

下面是《Quanta》杂志和利普森的访谈，关于如何定义机器人的自我觉知，其重要性和展望。为简明起见，该访谈经过编辑删减。‌

“

你对意识的本质这个重大问题很有兴趣——但为什么要通过机器人来研究它呢？为什么你没有选择成为一名哲学家或神经科学家？

机器人研究最吸引我的地方在于，你必须把你的理解转化成一种算法或是一种机制。你不能拐弯抹角，你不能讲空话，你不能使用诸如“现实的画布”此类理解因人而异的话语，因为太过模糊的语言，无法转换为机器语言。由此，机器人研究会迫使你变得实在而具体。

我想要实现我的设想，不想只是说说而已。虽无意冒犯，但恕我直言，哲学家们千百年以来并没有在这方面做出过多少实质性贡献。这不是因为他们缺少兴趣，或是缺乏贤才，而是因为对于哲学家来说，自上而下地尝试此类研究的确存在困难。神经科学家们已经掌握一种更加定量的研究方法，不过我认为，他们的研究将依然受限于自上而下的进路。

霍德·立普森教授，照片由哈尼姆·李（Hatnim Lee）拍摄于哥伦比亚大学立普森教授办公室。

如果你想要理解意识，为什么要从最复杂的意识，即人类的意识开始呢？这就像是在上坡路起步一样，是最困难起步方式。我们想试着从更简单，或许更易理解的系统入手。我们要做的是：观察一些非常细微的东西，比如一台有四个自由度的机器人，并尝试让这台机器进行自我模拟。

“

自我模拟和自我觉知是一回事吗？

一个可以自我模拟的系统在某种程度上是具有自我觉知的。基本的假设是：它能模拟自身的程度（模拟的逼真度），模拟自身的时间跨度长短，所有这些不同因素都会影响其自我觉知的程度。

所以你是把自我觉知这个概念简化成一个更为技术性的定义，即自我模拟，一种在空间中构建自身虚拟模型的能力。

是的，我们采用了一个不同但非常具体的定义。自我模拟这个概念，是可数学化，可测量的，你可以量化它，可以计算误差大小。哲学家们可能会说：“这不是我们所理解的自我觉知。”然后他们的讨论通常会变得含糊不清。你可以说我们的定义不是真正的自我觉知，但是我们有一些非常基础的，很容易量化的东西，即一个基准。这个基准是传统手工编码的自我模型，是工程师赋予机器人的。通过我们的机器人，我们试图研究人工智能算法是否可以通过学习，产生媲美传统手工编码的模型或者更好的自我模型。

单粒子机器人（上图）只能伸展和收缩，但它们可以作为一个团队一起移动，完成任务。用于研究自我复制的机器人（下图）可变形为多种形状。

—

Hatnim Lee 为《Quanta》杂志创作

“

为什么要研究实体机器人？而不是去研究无实体系统中的自我觉知？

我们在寻找一个能模拟其自身的封闭系统；要做到这一点，它需要有输入和输出，但也必须有一个边界，一个放置“自我”的地方，而机器人正是具备这些要素且非常自然的存在。它能运动，有感觉，也有边界，所以它可以置身于事件中，并且有事物可模拟。其次，我是个机器人专家，机器人自然是我的第一选择。

“

机器人是完全从零开始创建自我模型的吗？

从一无所有开始，看看能走多远，这是我们的一个基本理念。在我前面提到的海星形状机器人的案例中，我们没有足够的计算能力，只能告诉它，“你不知道你是什么，你不知道你在哪里，但我会告诉你F=ma之类已知是正确的物理定律，余下就交给你自己啦。”

“

人工智能如何在这个领域发挥作用呢？

出于某些原因，我们很乐意通过人工智能让机器人了解外部世界，但涉及到机器人自身时，出于某些特殊的理由，我们坚持手工编码模型。所以我们的工作实际上是相当琐碎的。我们说过，“让我们利用人类创造的所有基础设施来帮助机器人了解世界，随后将其学习外在世界的机制向内迁移，使其了解自身”。一言蔽之，这就是我们所做的一切。

“

机器人进行了1000次随机运动，为深度学习算法采集数据，创建自我模拟。这就是你所说的像人类婴儿牙牙学语一样的过程吗？

正是如此。机器人挥动手臂，类似于在观察它的指尖在哪里。你可以想象一下，移动你的肌肉然后看着你的指尖，这就是你在这个过程中的输入和输出。机器人像婴儿一样反复学习了30多个小时，一旦完成了所有的数据收集，我们工作就结束了。自此，自我模型的学习建立过程就纯粹是计算上的挑战了。

之后，我们所能做的就是通过添加受损部件来反复破坏机器人，我们观察到了被破坏的机器人是如何从初始模型开始，并如何对模型进行修正。第二次学习时，它已不必从头开始，虽然仍有一个婴儿式学习过程，但比最初需要的时间要少得多——只有最初时间的10%。

另外，在它再次开始婴儿式学习之前，它需要知道出了什么差错。这绝对是非常强大的能力，它是怎么知道的？在你建立的自我模型中，某些地方出了问题，你马上就会知道，因为只要你睁开眼睛，就会发现你的手不在它应该在的地方。比如你想要的点本来在4厘米之内，但它突然离你16厘米远了，你马上就会得到反馈。所以机器人会立刻知道出了什么差错，并将在一小段时间内计算出该如何补偿，但我认为，即使只知道出了差错，这也是非常重要的。

这些画是由一台退役的工厂机器人创作的，人们训练该机器人使用人工智能来画画。

—

Hatnim Lee 为《Quanta》杂志创作

“

人类大脑有一部分功能像一张身体的内在图谱，这个自我模型是否类同于此？

我觉得就是如此。此外，这也是为什么它如此纯粹和简单。我们能将其实现是因为，我们的机器人只有一个四自由度的手臂，但如果它是一个拥有800个自由度的类人机器人，对于我们今天的人工智能来说，就过于复杂了。

“

如果这真的是一种自我觉知的形式，机器人为什么要具备这种能力？有什么积极意义吗？

这能使机器人更具适应性（more resilient）。你可以像我们一样，手动构建机器人的自我模型，但那将非常费力且低效。其积极作用将不仅限于适应螺丝错位这样的简单差错，当现实世界中的机器人变形或损坏时，比如轮子掉下来或引擎失速，模型就会突然出错。再说到无人驾驶汽车，尤其是我们把生活保障托付给了自动机器人时，这就变成了很严肃的事情，这些机器人必须能够及时发现问题并且能够可靠地解决问题。

另一个原因是灵活性（flexibility）。假设这个机器人正在执行一项任务，它在执行任务时，会不断地更新自己的自我模型。现在，如果它需要执行一项新任务——比如它需要把一个螺丝放在不同的地方，或者它需要把螺丝拔出来而不是钉进去——它可以使用相同的自我模型来学习和计划如何去执行这项新任务。从外部看，这就像我们所说的“零样本学习”（zero-shot learning），这似乎是人类的做事方式。你可以盯着一棵从未爬过的树，然后走过去，并爬上这棵树。当机器人可以自我建模时，它可以像我们那样自我学习：其实它已经在自己的内部模拟中训练了几个小时，你只是看见它执行了一项任务，然后在那里“歇息”了一小会儿，突然它就可以在不用进行尝试的情况下执行一项新的任务。

“

能够自我模拟自己身体的机器人，和拥有内部“思想”（更近似于“自我觉知”的通俗意义）的机器人之间，有什么联系？

我们正在着手其他的自我建模项目，不是关于实体，而是关于认知过程。我们正在这两个研究方向上迈出第一步。至于这类机器人最终能否达到人类的认知水平，甚至超越人类，目前还很难说。

“

所以你认为这两条路——自我模拟身体，和自我模拟心智——最终会相互融合？

正是如此。我认为这都是一回事。不过那还是我们的假设，让我们拭目以待，看看我们能把我们的研究推进到什么地步。

翻译：Veina Choi

校对：邮狸

编辑：酸酸

https://www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711/?from=groupmessage

John Pavlus

约翰·帕夫卢斯是一位作家和电影制片人，住在俄勒冈州波特兰，他的作品曾发表在《科学美国人》、《彭博商业周刊》和《最佳美国科学与自然》系列丛书中。

····

← 往期回顾（滑动有惊喜） →

深读

1

2

3

4